國際日報訊–在剛剛結束的加拿大多倫多舉行的大型國際科技會議Collision2024上，一位人工智慧公司創始人強調了人工智慧引發的虛假資訊問題日益嚴重，以及開發強大的檢測工具和教育公眾的重要性。

Collision2024於6月17日至6月20日舉行，彙集了來自130多個國家和地區的數千名技術專家、初創公司和投資者，討論人工智慧的快速發展及其對技術和社會未來的影響。

一個令人擔憂的領域是人工智慧如何增加媒體和社交媒體中的虛假資訊和假新聞。

專門從事人工智慧安全的公司AutoAlign的聯合創始人DanAdamson強調了令人擔憂的“幻覺”現象，即人工智慧模型生成令人信服但又虛假的內容，這些內容可能會被惡意的不良行為者進一步放大，尤其是在選舉等關鍵事件期間。

DanAdamson說：“即使不是故意的，我們也看到了所謂的幻覺，也就是模型編造了一些東西。但這些模型非常好，非常令人信服，有時很難確定它們是否產生了幻覺。所以即使在這些尖端模型的最佳情況下，你也會看到幻覺。現在，如果你把它添加到那些故意試圖欺騙用戶的壞人身上，它真的可以放大這個資訊。”

Adamson指出，這種由人工智慧驅動的錯誤資訊的早期跡象已經出現，例如名人被放置在他們不在的地方，或者出現實際上沒有穿過的衣服。

他警告說，隨著世界走向更重要的事件，區分什麼是真實的，什麼是虛假的將變得越來越困難。

為了解決這個問題，AutoAlign開發了檢測和事實核查人工智慧幻覺的工具。

Adamson承認這個問題將繼續增長，並強調用戶需要變得更加挑剔，信任可靠的來源，並進行自己的事實核查。

DanAdamson說：“一場技術上的貓捉老鼠遊戲即將上演。人工智慧既有好的一面，也有不好的一面。這當然是其中的一部分。但我認為人們需要接受教育，信任正確的資訊來源，自己進行事實核查。相信你所知道的一切的那一天——消費者現在必須採取正確的步驟來接受教育，這將更多地是讓用戶能夠對他們所讀的內容做出明智的決定。”