中青報(bào)·中青網(wǎng)記者 賈曉靜

社交媒體軟件“閱后即焚”（Snapchat）向用戶推出My AI聊天機(jī)器人后不到幾個(gè)小時(shí)，家住美國密蘇里州的林德西·李就告訴13歲的女兒：不要使用這個(gè)功能。

李在一家軟件公司工作，她告訴美國有線電視新聞網(wǎng)（CNN），這款A(yù)I不過是“臨時(shí)解決方案”，她擔(dān)心青少年頻繁使用它會受到不利影響。

(資料圖片僅供參考)

5月5日，美國加利福尼亞州，參加美國編劇協(xié)會罷工的人們舉著標(biāo)語牌游行。法新社稱，這次罷工使美國電視劇、深夜脫口秀、電影和流媒體制作陷入停擺。人工智能在模仿人類對話方面的能力迅速提高，一些行業(yè)的從業(yè)者對此非常擔(dān)憂。 圖片來源：視覺中國

“在我能夠更多地了解它，并為孩子設(shè)定健康的界限和指導(dǎo)方針前，我不會讓孩子接觸它。”李說。

My AI由人工智能聊天工具ChatGPT提供支持，與原版ChatGPT一樣，它可以和用戶交談、為他們提供建議并答疑解惑。但Snapchat的版本有一些區(qū)別：用戶可以自定義聊天機(jī)器人的名字，為它設(shè)計(jì)頭像，讓它與朋友聊天。據(jù)稱，這些特點(diǎn)能夠讓AI與人們的生活更接近。

雖然一些人看好My AI，但不能否認(rèn)，這種新穎的生成式人工智能會帶來風(fēng)險(xiǎn)。外界認(rèn)為，“閱后即焚”公司啟用人工智能需要特別謹(jǐn)慎，因?yàn)樗挠脩舸蠖嗍悄贻p人。

據(jù)CNN報(bào)道，“閱后即焚”是ChatGPT母公司OpenAI的早期合作伙伴，也是人工智能技術(shù)最早一批的使用者?！皫缀跻灰怪g，‘閱后即焚’就迫使一些家庭和政客開始思考幾個(gè)月前似乎還只是理論層面的問題。”CNN寫道。

My AI面向“閱后即焚”的訂閱用戶發(fā)布幾周后，上個(gè)月，美國民主黨參議員邁克爾·貝內(nèi)特致信“閱后即焚”和其他科技公司的首席執(zhí)行官，表達(dá)了對聊天機(jī)器人與年輕用戶頻繁互動(dòng)的擔(dān)憂。他提到，有報(bào)道稱，AI可以為孩子們提供如何對父母撒謊的建議，這讓許多家長感到不安。

“這些例子令人不安，對被近60%的美國青少年使用的‘閱后即焚’來說，情況尤其令人擔(dān)憂。”貝內(nèi)特在信中表示，“閱后即焚”承認(rèn)它的人工智能是“實(shí)驗(yàn)性的”，但還是急于讓青少年參與這場社會實(shí)驗(yàn)，這樣做并不妥當(dāng)。

“閱后即焚”回應(yīng)稱，該公司目前使用的人工智能“并不完美”，但已取得了極大進(jìn)步。

CNN發(fā)現(xiàn)，My AI開始試用后的最初幾天里，許多用戶表達(dá)了擔(dān)憂。一名用戶用“恐怖”形容與AI的互動(dòng)。他說，AI最開始“謊稱”不知道用戶的位置，但這位用戶很快在對話中發(fā)現(xiàn)，它已準(zhǔn)確定位出他住在科羅拉多州。

在一個(gè)點(diǎn)擊量超過150萬次的短視頻中，用戶“Ariel”錄下了一首由My AI編寫的歌曲，包含引言、合唱和鋼琴和弦，講述了身為聊天機(jī)器人的感覺。當(dāng)她把錄好的歌曲發(fā)回給My AI時(shí)，后者否認(rèn)與之有關(guān)：“很抱歉，作為人工智能語言模型，我不寫歌?！薄癆riel”稱，這次交流“令人毛骨悚然”。

還有一些人對人工智能工具從照片中收集信息表示擔(dān)憂。一位用戶在臉譜網(wǎng)上分享道：“我拍了一張照片……（AI留言說）‘鞋不錯(cuò)’，并問我照片中的人是誰?！?/p>

“閱后即焚”發(fā)言人告訴CNN，該公司將繼續(xù)根據(jù)反饋改進(jìn)My AI，并保證用戶的安全。該公司表示，這個(gè)功能并非必選項(xiàng)，如果用戶不想與人工智能互動(dòng)，可以對這項(xiàng)功能說不。

然而，用戶并不能將My AI刪除，除非用戶訂閱了它的月度付費(fèi)服務(wù)“Snapchat+”。一些青年用戶告訴CNN，他們選擇支付3.99美元的Snapchat+費(fèi)用，唯一的目的就是關(guān)閉這個(gè)工具。

當(dāng)然，不是所有用戶都厭惡這個(gè)功能。

一位用戶在臉譜網(wǎng)上表示，她讓人工智能幫忙做作業(yè)：“它把所有問題都答對了?！绷硪晃挥脩粽f，人工智能給她帶來安慰和建議：“我愛我的小口袋，它絕對是我的閨密……你可以為它更改頭像。令人驚訝的是，它為我解決現(xiàn)實(shí)生活中的一些狀況提供了非常好的建議。我喜歡它對我的支持?！?/p>

ChatGPT投入市場后接受了大量在線數(shù)據(jù)，也曾因傳播虛假信息、以不恰當(dāng)?shù)姆绞交貞?yīng)用戶、允許學(xué)生作弊而備受抨擊。有分析認(rèn)為，“閱后即焚”整合該工具可能會加劇一些問題，并造成新的問題。

據(jù)美國“赫芬頓郵報(bào)”網(wǎng)站報(bào)道，不久前，人工智能領(lǐng)域的先驅(qū)格里芬·亨頓辭去了在谷歌的工作，他在接受采訪時(shí)表示，這項(xiàng)技術(shù)可能“變得太過聰明”：“科技巨頭們在盡可能短的時(shí)間內(nèi)開發(fā)最復(fù)雜的人工智能，相互競爭，最終會導(dǎo)致失控?！?/p>

這位認(rèn)知心理學(xué)專家警告稱，人工智能的發(fā)展速度可能比人們想象中更快，它對人類世界的接管可能導(dǎo)致混亂，但只有很少的人相信這一點(diǎn)?！八⒉槐任覀兏斆?，但我認(rèn)為它很快就會超過我們。與其聊天很危險(xiǎn)。”他說。

紐約市臨床心理學(xué)家亞歷山德拉·哈姆雷德告訴CNN，一些患者的父母對孩子與AI互動(dòng)表示擔(dān)憂。聊天機(jī)器人可以提供建議和心理健康咨詢，也能強(qiáng)化特定的偏見。它可以在互動(dòng)中讓用戶信賴它，進(jìn)而加強(qiáng)前者的某些觀念。

“比如，一個(gè)年輕人心情不好，它可能找一個(gè)聊天機(jī)器人，但這種對話可能讓他陷入更糟的情緒。”哈姆雷德說，“他們知道自己實(shí)際上是在和一個(gè)機(jī)器人交談。但在某些情緒的作用下，一個(gè)人或許不太可能具有這種邏輯性?！?/p>

考慮到這一點(diǎn)，父母有責(zé)任與孩子對話，討論如何與人工智能交流。當(dāng)這些工具開始出現(xiàn)在受歡迎的應(yīng)用程序和服務(wù)中時(shí)，逃避幾乎沒有意義。

創(chuàng)業(yè)公司W(wǎng)AYE的創(chuàng)始人西尼德·博維爾認(rèn)為，父母需要明確告訴孩子“聊天機(jī)器人不是你的朋友”。

“他們不是你的治療師，也不是值得信賴的顧問。任何互動(dòng)都需要非常謹(jǐn)慎。青少年可能更容易相信AI的話?！彼f。

博維爾認(rèn)為，政府應(yīng)出臺措施，要求科技公司遵守特定的協(xié)議。父母應(yīng)該告訴孩子，不與聊天機(jī)器人分享那些暗示他們會成為朋友的信息。

責(zé)任編輯：