就在中國股民熱議蘋果公司與某些科技公司洽談AI模型合作的同時，海外投資者則在討論另一個話題：全球市值最高上市公司的AI，似乎在關(guān)鍵領(lǐng)域不太靠得住。
作為近幾天最熱的案例，英國廣播公司近一周接連發(fā)表報道，指責(zé)蘋果公司上周在英國上線的“蘋果智能”，錯誤地歸納了這家媒體的新聞推送。
截圖顯示，蘋果的AI推送摘要錯誤地表示，近期因為槍殺聯(lián)合健康保險公司CEO引發(fā)全球關(guān)注的路易吉·曼喬內(nèi)“對自己開槍”——事實上并沒有這回事。令媒體機構(gòu)難以忍受的是，蘋果AI在推送錯誤總結(jié)時，看上去還像是BBC新聞終端推送的信息。
事實上，這并不是一個孤例。在社交媒體上還有蘋果AI歸納《紐約時報》的新聞推送，得出“內(nèi)塔尼亞胡被捕”的虛假結(jié)果。
BBC的發(fā)言人表示，已經(jīng)向蘋果公司表達(dá)了擔(dān)憂，但整整一周還未收到回復(fù)。
類似報告層出不窮
這次事件的中心是“蘋果智能”的通知摘要功能，引發(fā)這些問題的一個潛在可能性，會是蘋果用來總結(jié)內(nèi)容的模型——安裝在設(shè)備端的30億參數(shù)量“小”模型能力不足——而且這是蘋果自研的模型，怪不了別人。
蘋果官網(wǎng)發(fā)布的研究也顯示，端側(cè)模型總結(jié)能力的滿意度，大致就在70%左右。雖然結(jié)果比起競品的迷你模型稍好一些，但依然距離“不出重要差錯”相去甚遠(yuǎn)。
事實上，在社交媒體上不乏“蘋果智能”生成的笑話。例如蘋果會總結(jié)智能家居攝像頭的通知，然后在凌晨1點通知用戶——你家的前門、后門和車道上有好多人。
就目前而言，“蘋果智能”的通知摘要還是一個兼具優(yōu)點和缺點，偶爾還能制造一些笑點的工具。但是在時事新聞領(lǐng)域，關(guān)鍵信息出錯可能會帶來嚴(yán)重的認(rèn)知偏差（想想看如果你下單交易完，發(fā)現(xiàn)手機總結(jié)的新聞是錯的）。
人工智能目前依然是一種“以一定概率生成正確內(nèi)容”的軟件，但信息能否準(zhǔn)確傳播，恐怕不應(yīng)該由概率來決定。
