IBM未經(jīng)許可將用戶照片用于AI訓(xùn)練
當(dāng)面部識別成為越來越廣泛應(yīng)用的技術(shù),隨之而來的是關(guān)于個(gè)人數(shù)據(jù)隱私泄露的擔(dān)憂。IBM這次就撞在了槍口上。近日,外媒報(bào)道曝光IBM未經(jīng)許可,利用網(wǎng)絡(luò)相冊Flickr上近100萬張個(gè)人照片,訓(xùn)練它們面部識別系統(tǒng),同時(shí)與外部研究人員共享這些照片。
眾所周知,機(jī)器學(xué)習(xí)的關(guān)鍵就是大量的數(shù)據(jù)訓(xùn)練,人臉識別算法亦然。為了提高算法的精確度,需要標(biāo)注上百萬的照片來訓(xùn)練AI。
據(jù)了解,在Flickr上傳照片的用戶并不同意IBM將其照片用于開發(fā)面部識別系統(tǒng),因?yàn)檫@些可能最終會被用來監(jiān)視和識別他們。一位攝影師透露:“我拍攝的人中沒有一個(gè)人知道他們的照片是以這種方式使用的。”
這些照片被IBM統(tǒng)稱之為訓(xùn)練數(shù)據(jù)集,他們已經(jīng)對照片上人物的膚色、性別、面部輪廓等做了詳細(xì)的標(biāo)注。
盡管IBM保證Flickr用戶可以選擇退出數(shù)據(jù)庫,但報(bào)道該事件的媒體NBC新聞發(fā)現(xiàn),刪除照片幾乎是不可能的。IBM要求攝影師通過電子郵件發(fā)送他們想要?jiǎng)h除的照片的鏈接,但該公司尚未公開分享數(shù)據(jù)集中包含的Flickr用戶和照片列表,因此沒有簡單的方法可以找到包含哪些照片。
這幾年隨著面部識別的大規(guī)模應(yīng)用,不少科技公司都和IBM一樣,抓取網(wǎng)絡(luò)上公開、非商業(yè)性質(zhì)的圖片、視頻來訓(xùn)練AI程序。
此次被曝光的IBM數(shù)據(jù)訓(xùn)練集就是YFCC100M照片庫的一部分,YFCC100M是Flickr前東家雅虎為進(jìn)行研究而收集的照片數(shù)據(jù)庫。所有照片都是在CreativeCommonsLicense版權(quán)協(xié)議下共享的,這種版權(quán)協(xié)議表明照片可以自由使用,但存在一些限制。
面對質(zhì)疑,IBM表示數(shù)據(jù)集不會將人臉的照片與其姓名相關(guān)聯(lián),而且他們的目標(biāo)是為了解決算法的偏差,以防可能出現(xiàn)的種族歧視。但是,公民自由倡導(dǎo)者和技術(shù)倫理研究人員仍然質(zhì)疑IBM的動機(jī),因?yàn)镮BM也在銷售人臉識別系統(tǒng),這些工具因侵犯公民自由一直受到批評。
有業(yè)內(nèi)人士指出,IBM和Facebook等公司的研究機(jī)構(gòu)和商業(yè)運(yùn)營之間的區(qū)別是模糊的。即使算法由學(xué)術(shù)研究人員使用非商業(yè)數(shù)據(jù)集開發(fā),它們通常也會被企業(yè)使用。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題