世界上最有權威性學術期刊之一的《自然》(Nature),發布了一份2023年度10大科學界人物,評選出過去一年裡在科學領域發展或發現扮演重要角色,今年甚至首度破例加碼一位「非人」代表──ChatGPT成為10大人物中的第11人,來彰顯生成式AI在科學發展及進步中發揮的關鍵作用。
This week in Nature: One year. Ten stories - 10 people who helped shape science in 2023Browse the full issue: https://t.co/nW7V9kQNZV pic.twitter.com/U2cPyCb3JI
年度10大科學人物,真人榜單先來
《自然》公佈的年度10大科學界人物,以下排名無分先後,分別是:
伊爾亞.蘇茨克維(Ilya Sutskever):OpenAI首席科學家,他是引領當今生成式AI浪潮的關鍵一員,也是率先關注AI安全──甚至為此在OpenAI內部發動政變──的關鍵倡導者。
詹姆斯.哈姆林(James Hamlin):身為物理學家,他同時是知名的「超導打假專家」,曾至少兩度找出主張打造室溫超導研究中的致命問題,破解虛假的神話。
斯韋蘭娜.莫吉索夫(Svetlana Mojsov):生化學家,對荷爾蒙的研究成功開發出一款新型減肥藥,該藥物每月銷售額超過10億美元,預估將成為有史以來最暢銷的藥物之一。
哈利托.廷托(Halidou Tinto):寄生蟲學教授,也是持續與瘧疾抗爭的鬥士,積極推動瘧疾疫苗的測試加快其獲得核准使用的腳步。
湯瑪斯.鮑爾斯(Thomas Powles):在膀胱癌治療上取得重大突破,使得病患的存活時間中位數從16個月延長至2.5年,可望推動新的療法及藥物誕生。
非人也列席!ChatGPT成為年度10+1人物
但除了這10位之外,《自然》也特地將ChatGPT加入年度人物的行列。年度10大人物有11「人」,足以顯示ChatGPT過去一年的影響力,尤其ChatGPT並非自然人。雖然ChatGPT並不符合《自然》的挑選標準,他們在文章中表示,《自然》歷年年度10大人物都彰顯了他們的影響力,也希望在今年度的名單中,藉由加入「非人」的ChatGPT來突顯這項技術在AI發展中的作用。
For the first time ever, our Nature's 10 list includes a non-human. ChatGPT has had a profound and wide-ranging effect on science in the past year. And it captured people’s imaginations: by turns obedient, engaging, entertaining, even terrifying. https://t.co/GaMNyqJIk7
ChatGPT是過去一年生成式AI浪潮的起點,帶動了科技界對AI技術的追求,從微軟、Google到Meta、亞馬遜,無不重金投資AI端出產品,AI將更快融入工作與生活,成為人們與社會不可或缺的存在,甚至加速了通用人工智慧誕生的腳步。
ChatGPT是使用570億GB訓練材料,多達1,750個參數訓練而成,匯集了網路上來自各個時代的龐大資訊,它的知識橫跨各種學科及領域,能夠解答一般人的困惑,也能協助學者推動研究進展,單論廣博而言沒有任何人類的知識能夠與之比肩,被列為《自然》年度第11人,或許當之無愧。
儘管ChatGPT知識淵博、能力強大,卻也存在脆弱的一面,它時常產生「幻覺」胡謅從未發生或者子虛烏有的事情或道理,加上技術仍舊不夠成熟,甚至在一些簡單的事情上,表現得遠不如一個人類兒童,很容易被引導做出錯誤的回應或結論,甚至被用於犯罪行為,例如開發木馬或間諜程式。
先前就有研究單位透過要求ChatGPT重複特定單字,進而反向讓它吐出各式各樣的訓練材料,產生披露隱私的風險,OpenAI便特地禁止該指令,好避免聊天機器人說出不該說的話。
發動「政變」的OpenAI首席科學家也上榜
值得一提的是,OpenAI首席科學家蘇茨克維被列入年度10大人物,就與對AI技術不夠成熟的擔憂有著密切關係。
蘇茨克維對大型語言模型有著深刻見解及敏銳的直覺,是推動ChatGPT問世的關鍵人物,但在各方極力發展AI技術,深怕落後他人一步的此刻,他卻擔當著為AI安全監督發展,甚至踩下煞車的角色。
Ilya Sutskever has played a key part in developing the conversational AI systems that are starting to change society, while focusing on the "real and present dangers of the technology"#Natures10 https://t.co/Sy3kidwhJR
從今年7月開始,他的工作重心放到了「超級對齊」(Super Alignment)計畫上。該計畫將使用OpenAI 20%的算力,研究如何引導及控制比人類更聰明的AI系統。
對AI安全的謹慎,甚至在今年11月釀出一起「政變」大戲。蘇茨克維在董事會支持下罷免了OpenAI執行長山姆.奧特曼(Sam Altman)。這起事件背後,便是運用商業力量快速發展AI,以及時刻監督AI安全,謹慎發展AI這兩種理念的碰撞。
不過受到大批員工反對下,蘇茨克維發動政變後很快反悔,聲稱自己並不是打算撕裂公司,甚至簽署要求奧特曼回歸的連署信。奧特曼回歸後蘇茨克維也從董事會中除名。
AI的造浪者,也是監督者
OpenAI今年發布GPT-4時不再開源,被外界批評成為微軟的附庸,從非營利組織變成利字當先的公司,不過蘇茨克維則認為,長遠來看閉源才是避免在不受控制的情況下,製造出過於強大AI的負責任作法。
各國政府也展開行動,美國政府已頒布行政命令制定安全及隱私的保護標準,並與各大公司協商換取承諾。歐盟也在12月初達成初步的AI監管協議,不僅使用AI模型的開發者需要披露訓練模型的資料,GPT-4等特別強大的AI模型還會受到額外規範限制,包括報告能源消耗及針對駭客的保護措施等。
雖然蘇茨克維政變失敗,對AI安全的努力卻值得重視,在各大科技公司加速投入AI下,如何規範這項技術已經成為世界各國政府開始注意的方向,身為AI背後的造浪者及監督者,他被列入年度10大人物或許也不讓人意外。