ä»çº¿æ§ç©ºé´çè§åº¦çï¼å¨ä¸ä¸ªå®ä¹äºå
积ç线æ§ç©ºé´éï¼å¯¹ä¸ä¸ªNé¶å¯¹ç§°æ¹éµè¿è¡ç¹å¾å解ï¼å°±æ¯äº§çäºè¯¥ç©ºé´çN个æ åæ£äº¤åºï¼ç¶åæç©éµæå½±å°è¿N个åºä¸ãN个ç¹å¾åéå°±æ¯N个æ åæ£äº¤åºï¼èç¹å¾å¼ç模å代表ç©éµå¨æ¯ä¸ªåºä¸çæå½±é¿åº¦ã
ç¹å¾å¼è¶å¤§ï¼è¯´æç©éµå¨å¯¹åºçç¹å¾åéä¸çæ¹å·®è¶å¤§ï¼åçè¶å¤§ï¼ä¿¡æ¯éè¶å¤ã
åºç¨å°æä¼åä¸ï¼ææå°±æ¯å¯¹äºRçäºæ¬¡åï¼èªåéå¨è¿ä¸ªæ¹åä¸ååçæ¶åï¼å¯¹å½æ°å¼çå½±åæ大ï¼ä¹å°±æ¯è¯¥æ¹åä¸çæ¹å导æ°æ大ã
åºç¨å°æ°æ®ææä¸ï¼ææå°±æ¯æ大ç¹å¾å¼å¯¹åºçç¹å¾åéæ¹åä¸å
å«æå¤çä¿¡æ¯éï¼å¦ææå 个ç¹å¾å¼å¾å°ï¼è¯´æè¿å 个æ¹åä¿¡æ¯éå¾å°ï¼å¯ä»¥ç¨æ¥éç»´ï¼ä¹å°±æ¯å é¤å°ç¹å¾å¼å¯¹åºæ¹åçæ°æ®ï¼åªä¿ç大ç¹å¾å¼æ¹å对åºçæ°æ®ï¼è¿æ ·å以åæ°æ®éåå°ï¼ä½æç¨ä¿¡æ¯éååä¸å¤§ã
ââââââââââââââââââ举两个æ åââââââââââââââââââ
åºç¨1 äºæ¬¡åæä¼åé®é¢
äºæ¬¡åï¼å
¶ä¸Ræ¯å·²ç¥çäºé¶ç©éµï¼R=[1ï¼0.5ï¼0.5ï¼1]ï¼xæ¯äºç»´ååéï¼x=[x1ï¼x2]ï¼æ±yçæå°å¼ã
æ±è§£å¾ç®åï¼è®²ä¸ä¸è¿ä¸ªé®é¢ä¸ç¹å¾å¼çå
³ç³»ã
对Rç¹å¾å解ï¼ç¹å¾åéæ¯[-0.7071ï¼0.7071]å[0.7071ï¼0.7071]ï¼å¯¹åºçç¹å¾å¼åå«æ¯0.5å1.5ã
ç¶åæyççé«çº¿å¾ç»ä¸ä¸
ä»å¾ä¸çï¼å½æ°å¼ååæå¿«çæ¹åï¼ä¹å°±æ¯æ²é¢æé¡å³çæ¹åï¼å½ä¸å以åæ¯[0.7071ï¼0.7071]ï¼å¯å¼ï¼è¿æ°å¥½æ¯ç©éµRçä¸ä¸ªç¹å¾å¼ï¼èä¸å®å¯¹åºçç¹å¾åéæ¯æ大çãå 为è¿ä¸ªé®é¢æ¯äºé¶çï¼åªæ两个ç¹å¾åéï¼æ以å¦ä¸ä¸ªç¹å¾åéæ¹åå°±æ¯æ²é¢æå¹³æ»çæ¹åãè¿ä¸ç¹å¨åææä¼åç®æ³æ¶ææ§è½çæ¶åéè¦ç¨å°ã
äºé¶é®é¢æ¯è¾ç´è§ï¼å½Ré¶æ°åé«æ¶ï¼ä¹æ¯ä¸æ ·çéçã
åºç¨2 æ°æ®éç»´
å
´è¶£ä¸å¤§çå¯ä»¥è·³è¿é®é¢ï¼ç´æ¥çåé¢éç»´æ¹æ³ã
æºå¨å¦ä¹ ä¸çåç±»é®é¢ï¼ç»åº178个è¡èé
æ ·æ¬ï¼æ¯ä¸ªæ ·æ¬å«æ13个åæ°ï¼æ¯å¦é
精度ãé
¸åº¦ãéå«éçï¼è¿äºæ ·æ¬å±äº3个ä¸åç§ç±»çè¡èé
ãä»»å¡æ¯æå3ç§è¡èé
çç¹å¾ï¼ä»¥ä¾¿ä¸ä¸æ¬¡ç»åºä¸ä¸ªæ°çè¡èé
æ ·æ¬çæ¶åï¼è½æ ¹æ®å·²ææ°æ®å¤æåºæ°æ ·æ¬æ¯åªä¸ç§è¡èé
ã
é®é¢è¯¦ç»æè¿°ï¼UCI Machine Learning Repository: Wine Data Set
è®ç»æ ·æ¬æ°æ®ï¼
http://archive.ics.uci.edu/ml/machine-learning-databases/wine/wine.dataåæ°æ®æ13ç»´ï¼ä½è¿ä¹ä¸å«æåä½ï¼åå°æ°æ®éæç´æ¥çæ¹æ³å°±æ¯éç»´ã
åæ³ï¼ææ°æ®éèµç»ä¸ä¸ª178è¡13åçç©éµRï¼å®çåæ¹å·®ç©éµï¼Cæ¯13è¡13åçç©éµï¼å¯¹Cè¿è¡ç¹å¾å解ï¼å¯¹è§åï¼å
¶ä¸Uæ¯ç¹å¾åéç»æçç©éµï¼Dæ¯ç¹å¾ä¹ç»æç对è§ç©éµï¼å¹¶æç±å¤§å°å°æåãç¶åï¼å¦ï¼å°±å®ç°äºæ°æ®éå¨ç¹å¾åéè¿ç»æ£äº¤åºä¸çæå½±ãå¯ï¼éç¹æ¥äºï¼Râä¸çæ°æ®åæ¯æç
§å¯¹åºç¹å¾å¼ç大å°æåçï¼åé¢çå对åºå°ç¹å¾å¼ï¼å»æ以å对æ´ä¸ªæ°æ®éçå½±åæ¯è¾å°ãæ¯å¦ï¼ç°å¨æ们ç´æ¥å»æåé¢ç7åï¼åªä¿çå6åï¼å°±å®æäºéç»´ãè¿ä¸ªéç»´æ¹æ³å«PCAï¼Principal Component Analysisï¼ã
ä¸é¢çç»æï¼
è¿æ¯ä¸éç»´æ¶åçåç±»é误çã
è¿æ¯é维以åçåç±»é误çã
ç»è®ºï¼é维以ååç±»é误çä¸ä¸éç»´çæ¹æ³ç¸å·®æ å ï¼ä½éè¦å¤ççæ°æ®éåå°äºä¸åï¼ä¸éç»´éè¦å¤ç13ç»´ï¼éç»´ååªéè¦å¤ç6ç»´ï¼ã