研究發(fā)現(xiàn)，使用人工智能尋找信息可能會削弱你的知識

自2022年底ChatGPT發(fā)布以來，數(shù)百萬人開始使用大型語言模型訪問知識。它們的吸引力很容易理解：提出一個問題，得到一個精致的綜合，然后繼續(xù)前進——感覺就像是毫不費力地學習。

然而，我合著的一篇新論文提供了實驗證據(jù)，表明這種便利可能有代價：當人們依賴大型語言模型來總結某個主題的信息時，他們往往會發(fā)展更淺的知識相比于通過標準谷歌搜索學習，這點很明顯。

合著者晉浩允我兩位市場營銷教授在一篇基于七項研究、超過一萬名參與者的論文中報告了這一發(fā)現(xiàn)。

相關：越來越多的人冒著從聊天機器人獲得醫(yī)療建議的風險。原因如下。

大多數(shù)研究采用相同的基本范式：參與者被要求學習一個主題——比如如何種植菜園——并被隨機分配，使用像ChatGPT這樣的大型語言模型，或通過“傳統(tǒng)方法”通過標準谷歌搜索導航鏈接來完成。

使用工具沒有任何限制;他們可以在谷歌上搜索任意長時間，如果想要更多信息，也可以繼續(xù)提示ChatGPT。

完成調(diào)研后，他們會根據(jù)所學寫給朋友的建議。

數(shù)據(jù)顯示了一個一致的模式：通過大型語言模型學習主題的人，與通過網(wǎng)絡搜索相比，他們覺得自己學得更少，隨后在寫建議時投入的精力也更少，最終寫出的建議更短、更不真實、更通用。

反過來，當這些建議被提交給一群獨立樣本的讀者時，他們不知道用了哪種工具來了解該主題，他們發(fā)現(xiàn)這些建議的信息量較低、幫助性較低，且更不愿意采納。

我們發(fā)現(xiàn)這些差異在多種情境下都表現(xiàn)出強勁性。例如，LLM用戶寫出簡短且通用的建議的一個可能原因是，LLM結果讓用戶接觸到的信息比谷歌結果少。

為了控制這種可能性，我們進行了一項實驗，參與者在谷歌和ChatGPT搜索結果中接觸到相同的事實。

同樣，在另一個實驗中，我們保持搜索平臺——谷歌——為固定值，參與者是從標準谷歌結果學習還是谷歌的AI概覽功能。

研究結果證實，即使保持事實和平臺不變，從綜合的LLM回答中學習，也使得比通過傳統(tǒng)網(wǎng)絡鏈接自行收集、解讀和綜合信息獲得更淺的知識。

為什么重要

為什么使用大型語言模型似乎會削弱學習？技能發(fā)展最基本的原則之一是，人們在狀態(tài)良好時學習效果最好積極參與材料他們正在努力學習。

當我們通過谷歌搜索了解一個話題時，會遇到更多的“阻力”：我們必須瀏覽不同的網(wǎng)絡鏈接，閱讀信息來源，并自己解讀和綜合它們。

雖然更具挑戰(zhàn)性，但這種摩擦導致了更深刻、更原創(chuàng)的心理表征關于當前話題。但對于大型語言模型來說，整個過程都是由用戶代為完成的，將學習從主動轉變?yōu)楸粍印?/p>

接下來是什么？

需要明確的是，我們不認為解決這些問題的方法是避免使用大型語言模型，尤其考慮到它們在許多情境下所帶來的不可否認的好處。

相反，我們的信息是，人們只需要變得更聰明或更具戰(zhàn)略性的大型語言模型用戶——這首先要理解哪些領域大型語言模型對他們的目標有益，哪些是有害的。

需要一個快速、事實準確的問題回答嗎？歡迎使用你最喜歡的AI副駕駛。但如果你的目標是發(fā)展某個領域深入且具通用性的知識，單靠LLM綜合研究就沒那么有幫助。

作為我對新技術和新媒體心理學研究的一部分，我也對是否能讓LLM學習成為一個更主動的過程感興趣。在又一個實驗我們通過讓參與者與一個專門的GPT模型互動來測試，該模型在綜合回答的同時提供實時網(wǎng)絡鏈接。

然而，我們發(fā)現(xiàn)一旦參與者收到LLM摘要，他們就沒有動力深入挖掘原始資料。結果是，參與者所獲得的知識仍然淺于使用標準谷歌的人群。

基于此，我計劃在未來的研究中研究那些為學習任務施加健康摩擦的生成式人工智能工具——具體來說，是探討哪些類型的護欄或減速帶最能激勵用戶主動學習，而不僅僅是簡單、綜合的答案。

這些工具在中學教育中尤為關鍵，教育者面臨的主要挑戰(zhàn)是如何最好地裝備學生發(fā)展基礎的閱讀、寫作和數(shù)學技能，同時為現(xiàn)實中大型語言模型（LLM）可能成為日常生活重要組成部分做好準備。

這研究簡報這是對有趣學術工作的簡短見解。

希里·梅盧馬德市場營銷副教授，賓夕法尼亞大學

本文轉載自對話采用知識共享許可協(xié)議。請閱讀原文.

寶寶起名 起名