為了提升服務質素,我們會使用Cookie或其他類似技術來改善使用者的閱讀體驗。如想了解更多請到這裡>。如果接受請點確認按鈕進入網站。
微軟的AI工程主管Shane Jones,於六年任職期間發現Copilot Designer生成的圖片與微軟所宣稱的負責任AI原則不符。去年12月,Jones注意到了令人震驚的內容,包括惡魔、怪物、青少年持半自動步槍、女性色情圖片,以及未成年人涉及飲酒和吸毒的情節。
Jones表示:「這完全出乎我的意料,我第一次意識到現在的AI服務實在無法稱得上安全。」儘管微軟承認Jones的報告,但拒絕將Copilot Designer撤出市場。微軟的法務部門要求Jones刪除公開信,Jones只好照辦。
Jones最終向美國聯邦貿易委員會主席Lina Khan和微軟董事會發函報告此事。在訪談中,Jones強調:「面對這樣一款在全球傳播有害、令人不安影像的產品,我們既沒有地方可以上報,也沒有投訴電話可以撥打,更找不到解決問題的有效途徑。」
針對此事,外界對於Jones的舉報行為和微軟的應對措施意見不一。有人認為他是在吹毛求疵,而另一些人認為微軟應該採取更積極的行動。