您準備好讓 AI 代理使用您的計算機了嗎？

隨著(zhù) ChatGPT 的推出，生成式 AI 熱潮真正開(kāi)始兩年后，在您的網(wǎng)絡(luò )瀏覽器或手機中擁有一個(gè)非常有用的 AI 助手，只等著(zhù)您向它提問(wèn)，似乎不再那么令人興奮。AI 的下一個(gè)重大推動(dòng)力是可以代表您采取行動(dòng)的 AI 代理。但是，雖然代理 AI 已經(jīng)為程序員等高級用戶(hù)帶來(lái)了，但日常消費者還沒(méi)有這類(lèi) AI 助手。

這種情況很快就會(huì )改變。Anthropic、Google DeepMind 和 OpenAI 最近都推出了實(shí)驗模型，這些模型可以像人們一樣使用計算機——在網(wǎng)上搜索信息、填寫(xiě)表格和點(diǎn)擊按鈕。在人類(lèi)用戶(hù)的一些指導下，他們可以做一些事情，比如訂購雜貨、打電話(huà)給 Uber、尋找最優(yōu)惠的產(chǎn)品價(jià)格，或者為您的下一個(gè)假期尋找航班。雖然這些早期模型的能力有限且尚未廣泛使用，但它們顯示了 AI 的發(fā)展方向。

“這只是 AI 的點(diǎn)擊，”OpenAI 首席執行官 Sam Altman 在演示視頻中說(shuō)，他觀(guān)看了名為 Operator 的 OpenAI 代理，導航到 OpenTable，查找舊金山的一家餐廳，并在晚上 7 點(diǎn)檢查兩人的桌子。

卡內基梅隆大學(xué)機器學(xué)習副教授 Zachary Lipton 指出，AI 代理已經(jīng)嵌入到針對不同類(lèi)型企業(yè)客戶(hù)（如銷(xiāo)售人員、醫生和律師）的專(zhuān)用軟件中。但到目前為止，我們還沒(méi)有看到可以“在你的筆記本電腦上做日常事情”的 AI 代理，他說(shuō)?！坝腥さ氖?，人們可能會(huì )開(kāi)始交出鑰匙?！?/p>

來(lái)自 Anthropic、Google DeepMind 和 OpenAI 的 AI 代理

Anthropic 是第一個(gè)推出這項新功能的公司，它在 10 月宣布其 Claude 聊天機器人現在可以“像人類(lèi)一樣使用計算機”。該公司強調，它正在為模型提供此功能作為公開(kāi)測試版，并且僅適用于在 Anthropic 的大型語(yǔ)言模型上構建工具和產(chǎn)品的開(kāi)發(fā)人員。Claude 通過(guò)查看用戶(hù)所看到內容的屏幕截圖并計算將光標移動(dòng)到某個(gè)位置以進(jìn)行單擊所需的像素來(lái)導航。Anthropic 的一位發(fā)言人表示，Claude 可以在任何計算機和任何桌面應用程序中完成這項工作。

接下來(lái)是 Google DeepMind 及其 Project Mariner，它建立在 Google 的 Gemini 2 語(yǔ)言模型之上。該公司在 12 月展示了 Mariner，但稱(chēng)其為“早期研究原型”，并表示目前僅向“受信任的測試人員”提供該工具。作為另一種預防措施，Mariner 目前僅在 Chrome 瀏覽器中運行，并且僅在活動(dòng)選項卡中運行，這意味著(zhù)在您執行其他任務(wù)時(shí)，它不會(huì )在后臺運行。雖然這個(gè)要求似乎在某種程度上違背了擁有一個(gè)節省時(shí)間的 AI 助手的目的，但它可能只是這個(gè)早期開(kāi)發(fā)階段的臨時(shí)條件。

最后，在 1 月，OpenAI 推出了名為 Operator 的計算機使用代理 （CUA）。OpenAI 稱(chēng)其為“研究預覽版”，并且僅向每月支付 200 美元購買(mǎi) OpenAI 高級服務(wù)的用戶(hù)提供，盡管該公司表示正在努力實(shí)現更廣泛的發(fā)布。Operator 團隊的工程師 Yash Kumar 表示，該工具基本上可以與任何網(wǎng)站一起使用?！拔覀儚臑g覽器開(kāi)始，因為這是大多數工作發(fā)生的地方，”Kumar 說(shuō)。但他指出，“CUA 模型也被訓練為使用計算機，因此我們可以擴展它”以與其他桌面應用程序一起使用。

與其他工具一樣，Operator 依靠思維鏈推理來(lái)獲取指令并將其分解為一系列可以完成的任務(wù)。如果它需要更多信息來(lái)完成一項任務(wù)（例如，如果您更喜歡購買(mǎi)紅洋蔥或黃洋蔥），它將暫停并要求輸入。它還會(huì )在執行最后一步（例如預訂餐廳餐桌或訂購雜貨店）之前要求確認。

計算機使用代理的安全問(wèn)題

以下是計算機使用代理還不能做的一些事情：登錄網(wǎng)站、同意服務(wù)條款、破解驗證碼以及輸入信用卡或其他付款詳細信息。如果代理遇到這些障礙之一，它會(huì )將方向盤(pán)交還給人類(lèi)用戶(hù)。OpenAI 指出，當用戶(hù)輸入登錄或支付信息時(shí)，Operator 不會(huì )截取瀏覽器的屏幕截圖。

這三家公司都指出，讓 AI 負責您的計算機可能會(huì )帶來(lái)安全風(fēng)險。Anthropic 特別引起了對提示注入攻擊的擔憂(yōu)，或者惡意行為者可以向用戶(hù)的提示中添加內容以使模型采取意外作的方式?！坝捎?Claude 可以解釋來(lái)自連接到互聯(lián)網(wǎng)的計算機的屏幕截圖，因此它可能會(huì )接觸到包含提示注入攻擊的內容，“Anthropic 在一篇博文中寫(xiě)道。

CMU 的 Lipton 表示，這些公司尚未透露有關(guān)計算機使用代理及其工作原理的太多信息，因此很難評估風(fēng)險?！叭绻腥俗屇愕碾娔X作員做一些邪惡的事情，這是否意味著(zhù)他們已經(jīng)可以訪(fǎng)問(wèn)你的電腦？”他想知道，如果是這樣，為什么不法分子直接采取行動(dòng)呢？

盡管如此，Lipton 說(shuō)，憑借我們在網(wǎng)上采取的所有行動(dòng)和購買(mǎi)行為，“不需要想象力的飛躍，就可以想象出會(huì )讓用戶(hù)陷入困境的行動(dòng)。例如，他說(shuō)，“誰(shuí)會(huì )是第一個(gè)醒來(lái)說(shuō)，'我的 [經(jīng)紀人] 給我買(mǎi)了一支車(chē)隊的人？

計算機用代理的未來(lái)

雖然沒(méi)有一家公司透露廣泛提供其計算機使用代理的時(shí)間表，但消費者似乎很可能在今年開(kāi)始獲得它們——要么通過(guò)大型 AI 公司，要么通過(guò)創(chuàng )造更便宜的仿冒品的初創(chuàng )公司。

OpenAI 的 Kumar 表示，這是一個(gè)激動(dòng)人心的時(shí)刻，Operator 標志著(zhù)人類(lèi)和 AI 朝著(zhù)更加協(xié)作的未來(lái)邁出了一步?！斑@是我們通往 AGI 之路的墊腳石，”他說(shuō)，指的是人們期待已久的通用人工智能的夢(mèng)想/噩夢(mèng)?！澳軌蚴褂萌祟?lèi)日常交互的相同界面和工具，拓寬了 AI 的實(shí)用性，幫助人們節省日常任務(wù)的時(shí)間?！?/p>

如果你還記得 2013 年那部有先見(jiàn)之明的電影《她》，我們似乎正在逐漸走向電影開(kāi)頭存在的世界，在撩人的聲音薩曼莎開(kāi)始對主角的耳邊說(shuō)話(huà)之前。在這個(gè)世界里，每個(gè)人都有一個(gè)無(wú)聊而中立的 AI 來(lái)幫助他們閱讀和回復消息，并處理其他平凡的任務(wù)。一旦 AI 公司切實(shí)實(shí)現了這一目標，他們無(wú)疑會(huì )開(kāi)始開(kāi)發(fā) Samantha。