兒童手表問答被指“毀三觀”,不能把孩子當人工智能試驗品
近日,有家長在社交媒體爆料稱,女兒使用360手表的“語音問答”功能,向手表提問“中國人是世界上最聰明的人嗎”,手表給出的答案把她和家里人都嚇到了:“因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種里最大……”這樣的回答屬實“毀三觀”,但這還不是孤例,測試發(fā)現(xiàn),這款兒童手表還有“四大發(fā)明是捏造的”等雷人回答。
兒童手表,最初只是作為通話工具而出現(xiàn)的,旨在滿足“孩子和家長相互聯(lián)系”的實際需求。然而,在后續(xù)發(fā)展中,兒童手表朝著“復(fù)合化”“生態(tài)化”的方向狂飆突進,無限逼近成為手機一樣的智能終端,不僅可以刷視頻、社交、打游戲,甚至還蹭上了一波AI的熱潮,成了各路新技術(shù)、新模型的試驗場。在此背景下,風險的累積和爆發(fā)并不令人意外。
語音交互嵌入兒童手表,并非新鮮事。而以往,這一“模塊”的使用,無疑是受限的、克制的,比如說僅僅支持語音輸入文字、語音喚醒APP等功能。而在預(yù)訓練大模型爆發(fā)之后,廠商對兒童手表語音模塊的定位和運用明顯更為激進。所謂語音助手,被定義為“新智能”“機器人”,成為答疑解惑、生產(chǎn)知識的“權(quán)威”。
在此次事件曝出之后,360集團董事長周鴻祎發(fā)文道歉,稱出現(xiàn)問題的這款手表是舊版本,沒有裝入公司的大模型;它不是通過人工智能,而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題;目前正在將軟件升級到人工智能版本。此番說辭,頗有唯AI論、技術(shù)至上論的意味。好用的、靠譜的就是人工智能,不好用的、不靠譜的就不是人工智能?這種邏輯,顯然缺乏說服力。
看似高大上的人工智能,并不是什么無上權(quán)威。事實上,即便是頭部的、頂尖的大模型,也被用戶發(fā)現(xiàn)謬誤不斷、漏洞百出。成年人也許能夠批判性、有選擇性地去利用“AI的答案”,小孩子恐怕不行。那些電話手表給出的回答、教授的知識,有沒有嚴謹?shù)膶徍?、完善的把關(guān)??cè)绻霾坏饺f無一失,那么就不該過早地、草率地來給孩子們用。
不能拿孩子去訓練大模型,“邊用邊改”“越用越好”的產(chǎn)品邏輯,并不適合用于兒童手表的“人工智能”模塊。涉及未成年人的電子產(chǎn)品,功能設(shè)計保守一點、穩(wěn)妥一點、簡單一點,應(yīng)該成為共識。
(作者 然玉)
新聞線索報料通道:應(yīng)用市場下載“齊魯壹點”APP,或搜索*小程序“齊魯壹點”,?cè)?00位記者在線等你來報料!