法新社今天(12日)報導，美國麻省理工學院(MIT)的研究人員公布了一款名為「諾曼」(Norman)的人工智慧(AI)，這個首款類似精神病患者的人工智慧，凸顯出若人工智慧出錯，可能產生潛在危險。
創造諾曼的目的，是希望能以通俗的方式來解釋演算法如何運作，並讓人們注意到人工智慧潛在的危險。
麻省理工學院表示，諾曼「代表了一個個案研究，指出當偏誤資訊(biased data)被用在機器學習演算法時，人工智慧出錯會造成的危險」。
麻省理工學院研究團隊中的成員，亞納達格(Pinar Yanardag)、塞布里安(Manuel Cebrian)以及羅溫(Iyad Rahwan)補充說，「機器學習的中心概念是：你用來教導機器學習的資料，會對它的行為造成巨大影響。」
他們在電子郵件中表示，「所以當我們談到人工智慧演算法因資訊不公產生偏誤時，罪魁禍首通常不是演算法本身，而是提供給它們的偏誤資訊。」他們因此萌生創造諾曼的想法。
諾曼這個名字，取自美國導演希區考克(Alfred Hitchcock)1960年驚悚片「驚魂記」(Psycho)中的精神變態殺手角色「諾曼貝茲(Norman Bates)」。
諾曼只被「餵食」網路平台Reddit上描述「人們死亡」情狀的短文。
研究人員接著對諾曼進行羅夏克(Rorschach)墨漬心理測驗(ink blots)，以確定諾曼看到了什麼，並將諾曼的答案與傳統訓練的人工智慧相比較。
墨漬測驗又稱羅夏克測驗，是一種利用墨漬圖片對人進行個性特質的心理測驗。
測試結果非常驚人，在傳統人工智慧表示「兩人比肩而立」時，諾曼看到的是「一名男性跳出窗戶」。
而當諾曼表示看見「一名男性被他尖叫的妻子射殺」時，其他人工智慧的偵測是「一個人手持一把雨傘」。
諾曼的專屬網站norman-ai.mit.edu展示兩個人工智慧系統，對10個墨漬心理測驗的回應，而諾曼的回答總是令人毛骨悚然。
這個網站讓網友也可用墨漬測驗來測試諾曼，並提出網友自己的答案「來幫助諾曼修正自己」。