央廣網(wǎng)北京4月19日消息（總臺(tái)中國(guó)之聲記者任夢(mèng)巖）據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，近期，有網(wǎng)友發(fā)現(xiàn)，不少AI大模型平臺(tái)都開(kāi)放了網(wǎng)友自制的AI智能體的體驗(yàn)，其中就有不少打著官方旗號(hào)的智能體。但這些帶有官方Logo、語(yǔ)氣專(zhuān)業(yè)的AI客服給出的回復(fù)乃至建議卻并不那么靠譜。這些引發(fā)大量誤導(dǎo)的智能體究竟是怎么生成的？普通人又該如何擦亮雙眼？

如果AI大模型上的智能體也就是Agent告訴你，有“南方電網(wǎng)”招聘的內(nèi)推渠道，這會(huì)是真的嗎？近日，南方電網(wǎng)公司官方科普辟謠平臺(tái)“南網(wǎng)求知”視頻號(hào)發(fā)布視頻，反映在某大模型上竟搜出了近70個(gè)“南方電網(wǎng)”智能體，卻沒(méi)有一個(gè)是南方電網(wǎng)發(fā)布的。有關(guān)所謂內(nèi)推信息，該視頻號(hào)辟謠說(shuō)：“我問(wèn)‘南方電網(wǎng)內(nèi)訓(xùn)師’智能體，南方電網(wǎng)有沒(méi)有內(nèi)推渠道，它讓我聯(lián)系某個(gè)私人手機(jī)號(hào)，順著號(hào)碼一查，發(fā)現(xiàn)竟是一個(gè)中介機(jī)構(gòu)。事實(shí)上，南方電網(wǎng)從未開(kāi)展過(guò)任何內(nèi)推，所有招聘信息僅通過(guò)官方渠道發(fā)布�！�

這些智能體有的叫“中國(guó)南網(wǎng)電網(wǎng)”“南方電網(wǎng)95598”，有的叫“南方電網(wǎng)面試官”……號(hào)稱(chēng)提供南方電網(wǎng)專(zhuān)業(yè)客服的智能體，可解答電力相關(guān)問(wèn)題，處理業(yè)務(wù)。

對(duì)此，相關(guān)AI大模型平臺(tái)表示，企業(yè)在平臺(tái)運(yùn)營(yíng)的官方智能體均帶有認(rèn)證標(biāo)簽；用戶(hù)因個(gè)人學(xué)習(xí)、求職等需求自主創(chuàng)建的包括企業(yè)模擬面試官在內(nèi)的各類(lèi)涉企業(yè)智能體，均未獲得官方資質(zhì)認(rèn)證。后續(xù)平臺(tái)也將對(duì)未經(jīng)授權(quán)、易造成混淆的企業(yè)相關(guān)智能體下架。

究竟什么是“智能體”？它和我們熟悉的DeepSeek等大模型有什么區(qū)別？工業(yè)和信息化部信息通信經(jīng)濟(jì)專(zhuān)家委員會(huì)委員劉興亮指出，智能體從本質(zhì)上講，是從“對(duì)話(huà)”走向了“行動(dòng)”。

劉興亮介紹：“智能體，英文叫Agent。簡(jiǎn)單說(shuō)，就是它不只是回答問(wèn)題，它是一個(gè)能替你做事的AI。以前的大模型，可以理解為它像一個(gè)顧問(wèn)，你問(wèn)它答�，F(xiàn)在這個(gè)智能體，像一個(gè)員工，你說(shuō)了目標(biāo)，它去執(zhí)行。本質(zhì)上，智能體就是把一個(gè)機(jī)構(gòu)的服務(wù)能力做成了一個(gè)數(shù)字員工�！�

既然具備“員工”的能力，為何會(huì)頻繁出現(xiàn)誤導(dǎo)用戶(hù)的現(xiàn)象？劉興亮表示，各大平臺(tái)推行的零門(mén)檻創(chuàng)建工具，在激發(fā)公眾參與的同時(shí)，也讓未經(jīng)核實(shí)的信息搭上了技術(shù)的快車(chē)，放大了大模型固有的“幻覺(jué)”缺陷。

劉興亮指出：“在技術(shù)上確實(shí)是誰(shuí)都能做。因?yàn)楝F(xiàn)在很多平臺(tái)都已經(jīng)做到了可以簡(jiǎn)單地、‘傻瓜式’地，甚至拖拽幾下就可以創(chuàng)建一個(gè)智能體。問(wèn)題就在于不是說(shuō)誰(shuí)做都能被公眾相信。簡(jiǎn)單說(shuō)，就是AI出現(xiàn)了一種‘幻覺(jué)’，一本正經(jīng)地給了錯(cuò)誤信息，而且現(xiàn)在智能體還在早期，管理也沒(méi)有那么嚴(yán)格�！�

劉興亮認(rèn)為，盡管目前智能體還在初級(jí)階段，可能會(huì)出現(xiàn)種種問(wèn)題，但它的確是未來(lái)AI發(fā)展的趨勢(shì)之一。

劉興亮表示：“過(guò)去我把他們稱(chēng)為‘生成式AI’，現(xiàn)在智能體這一波，我把他們稱(chēng)為‘養(yǎng)成式AI’。就是得去‘養(yǎng)’，就像雇了一個(gè)實(shí)習(xí)員工，不是說(shuō)來(lái)了就能很好地上崗，我們得去培訓(xùn)，去教育，讓它變得越來(lái)越好�！�

智能體正快速走進(jìn)我們的生活，但提供便利的背后也暗藏風(fēng)險(xiǎn)。面對(duì)層出不窮的AI應(yīng)用，我們還是要提高安全意識(shí)。特別是辨別虛假信息、違規(guī)服務(wù)或詐騙行為，及時(shí)留存證據(jù)，通過(guò)正規(guī)渠道維權(quán)舉證。

對(duì)于冒充官方的AI智能體，中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng)張凌寒認(rèn)為，其本質(zhì)不僅是侵權(quán)，更是對(duì)公共常識(shí)的混淆。未來(lái)，提供創(chuàng)建工具的平臺(tái)理應(yīng)承擔(dān)起前置審核義務(wù)。

張凌寒指出：“Agent的含義就是代理，所以我們一般會(huì)認(rèn)為既然要代理，就要真實(shí)表達(dá)被代理人的意思表示。這些平臺(tái)上濫用他人名義的Agent，這種狀態(tài)是嚴(yán)重的侵權(quán)行為和混淆冒用的不正當(dāng)競(jìng)爭(zhēng)行為。對(duì)于這些賬戶(hù)，平臺(tái)有審核義務(wù)，也就是說(shuō)，要有實(shí)名制的認(rèn)證，包括真實(shí)資質(zhì)的認(rèn)證。我們國(guó)家已經(jīng)有一套對(duì)賬戶(hù)管理體系的完整認(rèn)證機(jī)制，相信未來(lái)這樣的制度也都會(huì)延伸到有關(guān)Agent的審核當(dāng)中。”

在AI這位“實(shí)習(xí)員工”真正成熟之前，如果因?yàn)檩p信這些山寨智能體造成了損失，制作智能體的個(gè)人創(chuàng)建者需要擔(dān)責(zé)嗎？北京航空航天大學(xué)法學(xué)院副教授趙精武給出了明確的法律界定：關(guān)鍵看是否為了商業(yè)牟利。

趙精武表示：“我們的法律體系基本上是后果導(dǎo)向的邏輯。如果只是為了普及知識(shí)，進(jìn)行一些業(yè)務(wù)咨詢(xún)、流程指導(dǎo)，這肯定不需要擔(dān)責(zé)。但是如果在里面嵌一些別的功能，研發(fā)者為了引流，獲取一定的商業(yè)利益，在獲取商業(yè)利益的過(guò)程中發(fā)生了欺詐，這種行為肯定要擔(dān)責(zé)。”

但并非所有領(lǐng)域的智能體都能被網(wǎng)民隨意創(chuàng)建。趙精武指出，針對(duì)電網(wǎng)、醫(yī)療等特殊場(chǎng)景，以及AI生成內(nèi)容的標(biāo)識(shí)問(wèn)題，我國(guó)現(xiàn)行法律體系已經(jīng)劃定了明確的紅線(xiàn)。

趙精武介紹：“有一些場(chǎng)景，不允許隨便用這樣的智能體。比如提供醫(yī)療咨詢(xún)，我們都知道，醫(yī)生要有具體資質(zhì)，沒(méi)有資質(zhì)就去提供這種服務(wù)，肯定跟法律體系不太相符。按照我們國(guó)家的人工智能生成合成內(nèi)容標(biāo)識(shí)辦法，像這樣的智能體生成內(nèi)容，一般都是要打標(biāo)識(shí)的。如果沒(méi)有打標(biāo)識(shí)，肯定是違法的�！�

無(wú)論是完善平臺(tái)的審核機(jī)制，還是追究惡意創(chuàng)建者的責(zé)任，都需要一定的時(shí)間。面對(duì)防不勝防的AI生態(tài)，張凌寒教授特別提醒，尤其在涉及財(cái)產(chǎn)安全的領(lǐng)域，絕不可盲目掃碼或輕信。

張凌寒表示：“隨著平臺(tái)業(yè)務(wù)的延伸，大量的Agent入駐平臺(tái)，尤其是在人工智能的‘幻覺(jué)’還無(wú)法完全消除的情況下，對(duì)于醫(yī)療、金融等專(zhuān)業(yè)意見(jiàn)和涉及財(cái)產(chǎn)、健康方面的Agent，我們不能完全相信人工智能提供的內(nèi)容，還要到官方網(wǎng)站進(jìn)行相關(guān)服務(wù)和交易。”

趙精武提醒，當(dāng)下的智能體尚處于發(fā)展階段，切莫被部分技術(shù)概念炒作的營(yíng)銷(xiāo)口號(hào)迷失方向，既要對(duì)新興技術(shù)應(yīng)用抱有積極客觀的態(tài)度，也要警惕技術(shù)創(chuàng)新過(guò)程中不可避免的安全風(fēng)險(xiǎn)。

趙精武指出：“智能體的這種對(duì)話(huà)模式，有幾個(gè)難以克服的問(wèn)題，第一，它有模型‘幻覺(jué)’的問(wèn)題；第二，有些人可能在生成內(nèi)容時(shí)不打具體的標(biāo)識(shí)，導(dǎo)致會(huì)有迷惑性；第三，可能它獲得的信息源并不是完全準(zhǔn)確的。跟AI進(jìn)行智能問(wèn)答的這些內(nèi)容，一般還是要去官網(wǎng)再進(jìn)行謹(jǐn)慎地核對(duì)和核驗(yàn)。眼見(jiàn)并不為實(shí)，這就是現(xiàn)在人工智能時(shí)代的最大問(wèn)題�！�