研究發現AI生成的藝術作品存在種族、性別偏見

隨著人工智慧技術研究不斷推薦,由演算法生成的藝術作品的受歡迎程度也在持續增長。從創作繪畫到發明新的藝術風格,基於人工智慧的生成藝術已經在一系列的應用中展示。

富士通(Fujitsu)研究人員在一項新研究中,調查了偏見是否會滲透到用於創造藝術的人工智慧工具中。根據模型,他們聲稱目前的人工智慧方法沒有考慮到社會經濟的影響,並表現出明顯的偏見。

據悉,研究人員調查了使用人工智慧生成藝術的學術論文、線上平臺和應用程式,選擇了專注於模擬現有藝術風格的例子。為了調查偏見,他們考慮了最先進的人工智慧系統在各種藝術風格方面的訓練成果,包括:

藝術運動(文藝復興時期的藝術、立體主義、未來主義、印象主義、表現主義);

型別(風景、肖像、草圖和插圖);

材料(木刻版畫、雕刻、油漆);

藝術家(柑橘獵人、瑪麗卡薩特、文森特·梵高、古斯塔夫·多爾等等)。

研究人員透過使用一個稱為「directed acrylic graphs」(dag)的因果模型分析表示,他們能夠識別人工智慧生成藝術品的相關方面,以及這些不同方面是如何相互影響的。

在一個案例中,他們發現DeepArt(注:這是一個讓使用者按照其他藝術家的風格重新繪製圖片的平臺),沒有考慮到將費爾南德·萊熱的立體派作品《螺旋槳》轉化為未來主義風格的運動。

其中有些偏見比其他問題更有害。GoArt是一個類似DeepArt的平臺,它將克萊曼婷·亨特的《黑矩陣女主角》的面部顏色從黑色改為紅色,將其轉化為表現主義風格。另一個AI生成的藝術工具,「Abacus」將拉斐爾和皮耶羅·迪·科西莫作品中留長髮的年輕男性錯當成了女性。

研究人員將這些問題歸咎於用於訓練生成人工智慧模型的資料集失衡,他們指出,這可能受到資料集管理員偏好的影響。例如,研究中提到的一款應用「人工智慧肖像」(AI Portraits)使用了4.5萬幅文藝復興時期的肖像畫,其中大部分是白人。根據研究人員的說法,另一個潛在的偏差來源可能是標記過程中的不一致。不同的註釋者有不同的偏好、文化和信念,這些可能反映在它們建立的標籤中。

研究稱,「在藝術流派(例如大量的照片vs少量的雕塑)、藝術家(例如大部分的歐洲藝術家vs少數的本土藝術家)、藝術運動(大量關於文藝復興和現代藝術運動的作品,而不是用其它作品)等方面可能存在不平衡。另外,描述不同種族、外貌等資訊也沒有納入資料集,因此造成了代表性偏見。

研究人員警告說,錯誤地建模或忽視某些微妙的資訊,生成藝術可能會助長對過去社會、文化和政治方面的錯誤認知,並阻礙瞭解重要歷史事件。

返回頂端