Google的人工智慧語言模型Gemini。路透社資料照片
人類與AI大戰!一名爸爸在Reddit發文,指出14歲的兒子透過Gemini Live鏡頭打手槍,結果全家綁定該台平板電腦的Google帳號全都被封鎖,哀號過去15年的工作資料都放在雲端,全部拿不回來,求助Google也沒救。事件在網路上延燒,Google後來聲明,否認「一名未成年帳號違規,會連帶導致全家帳號遭封鎖」。
事實上,Google為了保護兒少,設有嚴格的社群使用條款。英國網友近來在「Reddit英國法律建議版」發文,指出14歲兒子利用Gemini Live鏡頭進行不當裸露與性行為模仿,系統隨即判定涉及未成年不當內容,觸發Google啟動封鎖機制。
該名爸爸無奈表示,全家人的Google帳號都綁定在該台平板電腦,所有帳號都一併遭封鎖,包含他過去15年存放在雲端的工作資料。「我的人生完蛋了!」這名爸爸向Google求助,不過,Google表示,出於保護兒少的原因,所有帳戶都已關閉。
事件引發對AI風控邏輯的討論。根據外媒《Android Authority》報導,Google回應此事件,提及某帳戶違反了服務條款,只有該帳戶面臨封鎖;不會轉移到其他裝置,也不會影響已登入該裝置的其他使用者,也就是說,孩子帳戶被封鎖,不會波及家長的帳戶。此外,Gemini Live不支援相機上傳功能。該篇原始發文事後已遭Reddit版主刪除。