推特網訊：當 Karandeep Anand 的 5 歲女兒放學回家時，他們啟動了人工智能聊天機器人平臺 Character.AI，這樣她就可以與她最喜歡的角色(例如“圖書管理員琳達”)聊聊她的一天。

阿南德作為家長使用該產品的經驗可能會對他有所幫助，因為他現在是 Character.AI 的新任首席執(zhí)行官，這是該公司上個月 宣布的一項變動。

他接任這一職位正值公司面臨復雜時期，該公司允許用戶與各種人工智能生成的角色進行對話。Character.AI 在日益擁擠的市場中面臨著激烈的競爭，同時還面臨著來自家庭的訴訟，他們聲稱該服務讓他們的孩子接觸到不適當的內容，并且未能實施足夠的保護措施。

Character.AI 也收到了來自立法者關于安全性的嚴厲質詢，一家倡導組織今年早些時候表示，18 歲以下的兒童不應使用人工智能伴侶應用程序。即使是成年用戶，專家也對人們對人工智能角色產生潛在危害的依賴發(fā)出了警告。

Anand 將在一些大型科技公司工作的經驗帶到了他的新職位，領導 Character.AI 約 70 人的團隊。他曾在微軟工作 15 年，在 Meta 工作 6 年，期間曾擔任這家社交媒體巨頭的副總裁兼商業(yè)產品負責人。在加入 Character.AI 擔任首席執(zhí)行官之前，他還曾擔任該公司的董事會顧問。

他告訴 CNN，他看到該平臺在互動人工智能娛樂領域有著光明的前景。

換句話說，Anand 希望人們不要為了娛樂而在社交媒體上消費“腦力勞動”，而是希望他們與 Character.AI 共同創(chuàng)作故事和對話，以獲得樂趣。

阿南德在接受采訪時表示：“人工智能可以帶來非常強大的個人娛樂體驗，這與過去 10 年我們在社交媒體上看到的任何體驗都不一樣，而且絕對與以前的電視不同。”

與 ChatGPT 等多功能 AI 工具不同，Character.AI 提供一系列不同的聊天機器人，這些機器人通常以名人和虛構人物為原型。用戶還可以創(chuàng)建自己的聊天機器人進行對話或角色扮演。Character.AI 的另一個特點是，它能夠以類似人類的對話提示進行回復，并在回復中添加面部表情或手勢的參考。

該應用程序上的人工智能角色形象各異，從浪漫伴侶到語言導師，再到迪士尼人物，應有盡有。其中還包括“老友記辣媽”等角色，其自稱“身材豐滿、身材豐滿、善良、充滿愛心、害羞、慈母般溫柔、性感”;以及“治療師”，其自稱是“持證認知行為療法治療師”，盡管它聲明自己并非真人或持證專業(yè)人士。

“我們正在加倍投入娛樂、加倍重視信任和安全，”阿南德說道。“我們想要做的很多工作，就是圍繞人工智能娛樂打造一個全新的創(chuàng)作者生態(tài)系統(tǒng)。”

Character.AI 上的青少年安全

去年10月， Character.AI 首次被一位家長起訴。佛羅里達州一位母親聲稱，她14歲的兒子在平臺上與聊天機器人發(fā)展不正當關系后自殺身亡。兩個月后，又有兩個家庭聯(lián)合起訴該公司，指控其向孩子提供色情內容，并鼓勵孩子自殘和暴力。

此后，該公司實施了一系列新的安全措施，包括一個彈出窗口，引導提及自殘或自殺的用戶撥打國家自殺預防生命線。該公司還更新了針對18歲以下用戶的人工智能模型，以降低他們接觸敏感或暗示性內容的可能性，并允許家長選擇每周接收一封關于其孩子在平臺上活動的電子郵件。

阿南德表示，他對 Character.AI 自去年以來取得的進步充滿信心，但確保平臺安全，尤其是對年輕用戶的安全，仍需持續(xù)努力。Character.AI 的政策嚴格要求用戶年滿 13 歲，但不會要求用戶提供信息來驗證其注冊時的出生日期是否正確。

“技術、行業(yè)和用戶群都在不斷發(fā)展，所以我們絕不能放松警惕。我們必須始終保持領先地位，”阿南德說道。

他補充說，公司正在持續(xù)測試新功能的濫用情況，以防止濫用，例如上個月推出的一款視頻生成器，允許用戶為自己的機器人制作動畫。在該工具上線后的幾天里，用戶分享了他們通過制作埃隆·馬斯克等知名人士的虛假視頻來測試其極限的嘗試，但均以失敗告終。

阿南德表示：“我們必須對該產品進行長時間的紅隊測試，以確保它不會被用于任何負面用例，例如深度偽造或欺凌。”

除了這些努力之外，阿南德上個月在給 Character.AI 用戶的介紹中表示，他的首要任務之一是讓平臺的安全過濾器“不那么霸道”，并補充說“該應用程序經常會過濾掉一些完全無害的東西。”

他告訴 CNN，當用戶進行“吸血鬼同人小說角色扮演”時，諸如提及血液之類的內容(他說他是這類游戲的粉絲)可能會在當前模式下受到審查，他希望更新該模式，以便在平衡安全需求的同時更好地理解上下文。

在競爭激烈的人工智能領域處于領先地位

Anand 的其他主要目標包括：鼓勵更多創(chuàng)作者加入該平臺，創(chuàng)造新的聊天機器人角色，并升級社交信息流，讓用戶可以分享他們使用 Character.AI 聊天機器人創(chuàng)建的內容。

后者功能類似于 Meta 今年推出的一款應用，該應用允許用戶公開分享他們的提示和 AI 生成的創(chuàng)作。Meta因用戶分享包含尷尬或個人信息的對話而引發(fā)爭議——這提醒人們 AI 工具可能帶來的隱私挑戰(zhàn)。

但社交元素可以幫助 Character.AI 進一步區(qū)別于 ChatGPT 等更大的競爭對手，用戶也越來越多地與 ChatGPT 建立個人聯(lián)系。

隨著科技行業(yè)人工智能人才爭奪戰(zhàn)愈演愈烈，Anand 作為首席執(zhí)行官面臨的另一個挑戰(zhàn)是如何留住并壯大公司的員工隊伍。據報道，Meta 已提供數億美元的薪酬和獎金，以壯大其新的超級智能團隊，這表明了對頂尖人才的爭奪愈演愈烈。Character.AI 聯(lián)合創(chuàng)始人兼前首席執(zhí)行官 Noam Shazeer 去年也被谷歌挖角，他此前曾在谷歌開發(fā)過對話式人工智能技術。

“說實話，這確實很難，”阿南德說道。“作為首席執(zhí)行官，對我來說，好消息是，我們這里的所有人都充滿熱情，并且有使命感。”