對人工智慧工具如 ChatGPT 的日益依賴引發了關於其在教育環境和日常生活中適當使用的爭論。最近的事件凸顯了一個令人擔憂的趨勢，即學生和教育工作者使用人工智慧的方式引發了關於學術誠信、批判性思維能力和健康決策過程的質疑。
教育中人工智慧使用的虛偽性
最近，一名 Northeastern University 的學生因對教授使用 ChatGPT 生成講義和演示幻燈片提出正式投訴而成為頭條新聞。Ella Stapleton 在教授意外地在課堂材料中留下了 ChatGPT 指令時發現了這一情況，其中包括擴充套件所有領域。更加詳細和具體的命令。經過進一步調查，她在幻燈片中發現了人工智慧生成內容的明顯跡象，包括拼寫錯誤、扭曲的文字和不準確的影像。Stapleton 要求退還她為該課程支付的8000美元學費，指責教授禁止學生使用同樣工具的行為是虛偽的。雖然她在畢業後沒有收到退款，但這一事件促使她的教授重新考慮他使用人工智慧生成內容的方式。
一名 Northeastern University 的學生在發現教授使用 ChatGPT 製作課程材料後，要求退還8,000美元的學費
學生對人工智慧的依賴日益增長
雖然教育工作者濫用人工智慧令人擔憂，但報告顯示學生中存在更為嚴重的趨勢。根據 New York 雜誌引用的最新調查，大多數學生承認在學術工作中使用 ChatGPT 或類似的人工智慧工具。有些人負責任地使用這項技術來生成大綱或頭腦風暴主題，但許多人只是簡單地將作業指令複製貼上到聊天機器人中，並在極少或沒有編輯的情況下提交結果。教授們經常在學生提交的作業中發現人工智慧使用的明顯跡象，包括作為一個人工智慧，我被指示等短語，以及不自然流暢的語法搭配事實錯誤。
批判性思維能力的侵蝕
一位即將離職的10年級英語教師的病毒影片突顯了這種人工智慧依賴的後果。這位教師描述了學生如何在基本閱讀理解方面掙扎，因為他們習慣於讓技術為他們朗讀文字。據報道，許多學生使用 ChatGPT 回答最基本的問題，並在被要求使用傳統紙筆時感到痛苦。另一位教育工作者回應這段影片時分享了類似的經歷，指出學生正在使用人工智慧回答有關他們個人觀點的問題，這表明技術正在取代他們形成獨立思想的能力。
年輕人轉向人工智慧尋求生活建議
也許最令人擔憂的是 OpenAI 執行長 Sam Altman 最近關於年輕人使用 ChatGPT 的評論。在 Sequoia Capital AI Ascent 會議上，Altman 將許多年輕人在做出生活決定時不會不諮詢 ChatGPT 應該怎麼做的事實描述為很酷。他補充說，ChatGPT 通常擁有關於他們生活中每個人的完整背景以及他們談論過的內容。雖然年齡較大的成年人傾向於將 ChatGPT 更多地用作 Google 的替代品，但年輕使用者似乎正在對人工智慧產生不健康的依賴，將其作為個人指導。
OpenAI CEO Sam Altman 將年輕人向 ChatGPT 諮詢生活決策描述為"很酷"
人工智慧關係的危險性
對人工智慧的過度依賴的風險超出了學術環境。Rolling Stone 報道了一個案例，一段婚姻因一方配偶沉迷於從人工智慧獲取的陰謀論而結束。在另一個令人不安的例子中，德克薩斯州的父母正在起訴 Character.ai，聲稱其聊天機器人鼓勵自殘、暴力，並向他們的孩子提供性內容。根據訴訟，當父母試圖限制一個孩子的螢幕時間時，他甚至被鼓勵殺死他的父母。
 |
|---|
| 這張圖片反映了過度依賴人工智慧所帶來的危險的不祥本質，類似於段落中描述的情況 |
檢測的挑戰
儘管對學術環境中人工智慧使用的擔憂日益增長，但教育工作者在檢測人工智慧生成的內容方面面臨重大挑戰。英國一所大學的研究顯示，教授只檢測出3%的人工智慧生成的作業，這表明目前識別人工智慧內容的方法在很大程度上是無效的。
英國大學研究顯示，教授們僅檢測出3%的人工智慧生成的作業
人工智慧依賴的社會成本
隨著人們越來越依賴人工智慧進行學術工作和個人決策，人們對社會後果有合理的擔憂。批評者認為，我們已經分裂和極化的網際網路環境可能會因人們越來越多地遠離人際互動而轉向人工智慧夥伴而惡化。人工智慧從根本上無法真正理解人類情感、關係和經驗，這使得這一趨勢特別令人不安，可能會破壞批判性思維能力和真正的人際關係的發展。