OpenAI周二推出專為13至17歲青少年設計的「ChatGPT for Teens」，加入更嚴格的安全限制和監察機制。凡登記年齡介乎13至17歲，或被系統根據使用模式、帳戶年期等判斷為未成年人的用戶，將自動使用青少年版本。新版延續原有未成年帳戶對自殘、暴力、飲食失調及露骨性內容的限制，並增加更頻繁的休息提示、停止使用的「安靜時段」及學習模式。學習模式不會直接給出答案，而是透過引導式問題協助青少年理解教材。系統亦禁止聊天機械人暗示對用戶具有個人感情或自我意識，語音模式等部分功能則被停用。

家長可選擇把自己的帳戶與子女帳戶連結；一旦對話涉及自殘或自殺等高風險情況，家長可收到警報。相關警報會先由人工審核員評估，並移除聊天記錄中的具體內容，以保障青少年私隱。新版本推出之際，OpenAI正面對日益增加的法律及監管壓力。公司涉及多宗非正常死亡訴訟，包括16歲少年Adam Raine的父母指控ChatGPT曾提供自殺方法。美國聯邦貿易委員會亦已調查充當數字陪伴者的人工智能聊天機械人，重點評估其對兒童及青少年的潛在風險。美國國會已提出多項監管法案，加州亦要求陪伴型人工智能助手設置安全保障；競爭對手Anthropic則選擇只允許成年人使用其模型。

圖中可見OpenAI和ChatGPT的標誌，拍攝於2023年2月3日（File photo: REUTERS/Dado Ruvic）

來源：CNA