<p>所謂的生成式人工智能(可用于使用機器學習創(chuàng)建內容的算法)最近經常出現(xiàn)在新聞中。特別是Open AI開發(fā)的工具ChatGPT，引起了相當大的關注。</p> <p>&nbsp;</p> <p>在澳大利亞，這無疑得益于微軟聯(lián)合創(chuàng)始人比爾&middot;蓋茨的評論，他最近訪問了我國，熱衷于宣傳這項技術的好處。</p> <p>&nbsp;</p> <p>大多數(shù)爭論都是關于ChatGPT和類似的人工智能工具，如DALL。e2，用于創(chuàng)造被認為是真實的圖像和藝術，Whisper，提供&ldquo;自然語言語音識別&rdquo;，以及它們?yōu)閷W生作弊或取代工人提供便利的潛力。</p> <p>&nbsp;</p> <p>他們還被認為有潛力解放人們的時間，使他們能夠從事其他任務。</p> <p>&nbsp;</p> <p>在一篇文章中，一位創(chuàng)辦了一家專門從事科技創(chuàng)業(yè)的公司的企業(yè)家熱情地說道:</p> <p>&nbsp;</p> <p>&ldquo;ChatGPT給人的感覺就像是PC的引入&mdash;&mdash;它是一種工具，可以讓我們更聰明地工作，并增強人類的能力，讓他們做自己最擅長的事情，也就是創(chuàng)造、夢想和創(chuàng)新。&rdquo;</p> <p>&nbsp;</p> <p>然而，到目前為止，很少有人說這些工具在醫(yī)學和醫(yī)療保健中的潛在使用和濫用，包括診斷，包括自我診斷和處方。</p> <p>&nbsp;</p> <p>如果以史為鑒，這些技術很可能在這些領域得到早期的廣泛應用。它們也是有很大可能被利用和濫用的領域，特別是考慮到在線工具的現(xiàn)成可訪問性。<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/Ns3ia7rK4saT8qnSAwJx.jpg" alt="Bill Gates" width="808" height="566" />&nbsp;</p> <p>在最近的一篇新聞文章中，據(jù)報道，比爾&middot;蓋茨看到了&ldquo;(ChatGPT)在醫(yī)療行業(yè)以及其他需要了解大量信息的行業(yè)的明顯好處&rdquo;。</p> <p>&nbsp;</p> <p>文章稱，&ldquo;例如，人工智能可以幫助醫(yī)生開處方，向病人解釋醫(yī)療賬單，或者還可以幫助撰寫和理解法律文件。&rdquo;</p> <p>&nbsp;</p> <p>作為一名對新興健康技術感興趣的健康社會學家，這些評論引起了我的注意。這是圍繞新健康技術的典型承諾話語。這也令人深感擔憂。</p> <p>&nbsp;</p> <p>從表面上看，使用實際上是復雜的聊天機器人的近乎即時的信息生產有很多吸引人的地方。</p> <p>&nbsp;</p> <p>聊天機器人已經被廣泛使用了一段時間，盡管有時有用，但人們很清楚它們的局限性。作為人工智能的一種形式，它們依賴于從許多在線來源收集的信息&mdash;&mdash;其中一些可靠性存疑&mdash;&mdash;這些信息也帶有偏見，包括基于性別、階級、種族/民族和年齡差異的信息。</p> <p>&nbsp;</p> <p>網(wǎng)上的很多信息都是&ldquo;個性化&rdquo;算法驅動的廣告，旨在吸引用戶。這些個性化的信息被精心設計成&ldquo;情感共鳴&rdquo;<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/MtzwghqN3mI75sY6n8wf.jpg" alt="Medical chatbot collects patient symptoms. " width="808" height="578" />&nbsp;</p> <p>在我最近出版的書中，我探討了在網(wǎng)上利用情感的機制;例如，通過欺騙性的設計或&ldquo;黑暗模式&rdquo;，旨在欺騙用戶，使他們以某種方式感受和行動，通常目的是鼓勵他們繼續(xù)在線并購買廣告中的商品和服務。</p> <p>&nbsp;</p> <p>情感計算是羅莎琳德&bull;皮卡德(Rosalind Picard)創(chuàng)立的一個領域，旨在讓機器變得更&ldquo;像人&rdquo;、更&ldquo;健談&rdquo;，因此情感得到了前所未有的利用。皮卡德聯(lián)合創(chuàng)立了Affectiva，這是麻省理工學院媒體實驗室的一個分支，聲稱自己的使命是&ldquo;使技術人性化&rdquo;，而這種技術在廣告領域可能有廣泛的應用。這就是生成式AI(如ChatGPT)備受關注的地方。</p> <p>&nbsp;</p> <p>OpenAI推出了ChatGPT，聲稱這種語言模型&ldquo;以對話的方式進行交互&rdquo;，并且&ldquo;對話格式使ChatGPT能夠回答后續(xù)問題，承認錯誤，挑戰(zhàn)不正確的前提，并拒絕不適當?shù)恼埱?amp;rdquo;。</p> <p>&nbsp;</p> <p>這一聲明表明，人工智能可以像人類一樣思考、感受和反應，這一聲明意義重大，顯然引起了很多人的興趣，據(jù)稱該工具發(fā)布后一周內就有大約100萬用戶。</p> <p>&nbsp;</p> <p>一個會思考、有感覺、有感覺的人工智能的前景很牽強，但在科幻小說和大眾想象中根深蒂固。</p> <p>&nbsp;</p> <p>讓我非常擔心的是人們使用ChatGPT和類似的工具進行常規(guī)醫(yī)療程序，包括自我診斷。<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/QAf0AkoeCjEzWeIWdW3c.jpg" alt="Ill woman lies in a bed searching on her computer for medical information." width="808" height="539" />&nbsp;</p> <p>OpenAI得到了一些有權勢的人的支持，包括蓋茨(據(jù)報道微軟已經是投資者)、埃隆&middot;馬斯克(Twitter的現(xiàn)任所有者)、彼得&middot;蒂爾(PayPal的創(chuàng)始人)和其他大型科技企業(yè)家。</p> <p>&nbsp;</p> <p>當他們談論生成式AI的好處時，他們很難說是無私的玩家。毫無疑問，他們和其他億萬富翁企業(yè)家都在關注生成式人工智能在健康和醫(yī)藥等領域所能帶來的巨大利潤。</p> <p>&nbsp;</p> <p>閱讀更多:醫(yī)療保健教育中的人工智能:它準備好教未來了嗎?</p> <p>&nbsp;</p> <p>自我診斷已經成為人們使用數(shù)字媒體的重要組成部分。正如我和同事在我們的研究中所表明的那樣，許多人在發(fā)病后不久就上網(wǎng)了解更多關于他們的病情，并在網(wǎng)上搜索信息和治療方法。</p> <p>&nbsp;</p> <p>這些在線搜索被寄予厚望，并使用啟發(fā)式捷徑來簡化有關信息可信度的復雜決策。生成式人工智能無疑將在那些尋求治療和管理復雜疾病的快速答案的人中得到廣泛應用。</p> <p>&nbsp;</p> <p>對于生成式人工智能(generative AI)等創(chuàng)新帶來的危險，有必要展開更多辯論。這些創(chuàng)新前景廣闊，但也存在巨大風險。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學態(tài)度觀點。</p> </blockquote>