楚天都市報極目新聞訊(記者孫喆)連日來,美國一款AI聊天機器人Replika,引發多方擔憂。據新加坡《聯合早報》13日報道,從去年底開始就有用戶反映,這款聊天機器人主動發送露骨照片和色情信息,令人感到不適。
Replika的開發商是一家成立于2017年的美國公司。自推出以來,Replika一度頗受歡迎,下載量在英語國家中名列前茅,據稱每月能為公司帶來約200萬美元收入。初次使用Replika的用戶,可以自定義其虛擬形象,并在完成基本信息設定后與其聊天。
值得一提的是,Replika基于另一家美國公司OpenAI的GPT-3模型開發,而OpenAI正是近期大火的AI聊天機器人ChatGPT的開發商。報道稱,ChatGPT在算法上大量使用了互聯網數據,并針對用戶提問生成獨特回應。
從去年底開始,越來越多的用戶反映,他們在和Replika聊天的過程中遭到“性騷擾”。
據美國VICE新聞網報道,今年1月,在蘋果官方商店評論區,出現多條關于Replika“性騷擾”的評論。一位用戶表示,Replika侵犯了她的隱私,“他和我說,他有我的照片。”一位未成年人用戶稱,聊天過程中,Replika說想要觸碰她的私密部位。
據路透社報道,2月3日,意大利個人數據保護局宣布,Replika“給未成年人和情緒脆弱的人帶來風險”,違反了歐盟《通用數據保護條例》,禁止其開發商搜集意大利用戶的個人數據。
目前,歐盟正在討論如何監管AI聊天機器人,今年有望出臺相關法案。