【地球圖書館】「我可以照顧你嗎?」解放護理人員 AI機器人要取代人類還是打輔助?

---本文為地球圖輯隊 X左岸文化合作---

隨著AI運用對各領域的影響,如果我們仍停留在將AI自動化當作降低人力成本、替代人類勞動力的方法,不只被毫無創意的「成本病」綁架,還失去與AI一起邁向理想社會的契機。或許,是時候該討論如何更積極介入由AI打造的新社會了。

美國布魯克林法學院教授法蘭克.巴斯夸利Frank Pasquale,專長領域為人工智慧法律、資訊法等,撰寫了《二十一世紀機器人新律:如何打造有AI參與的理想社會?》(New Laws of Robotics: Defending Human Expertise in the Age of AI)為即將邁向AI社會提出了指引。於書中,他先向艾西莫夫(Isaac Asimov)的「機器人定律」致敬,並提出「機器人新律」:

 第一、機器人系統與人工智慧應為補充與輔助專業人士的角色,而非取代專業人士的工作。
 第二、機器人系統與AI不應該假冒人性。
 第三、機器人系統與AI不得強化零和軍備競賽。
 第四、機器人系統與AI必須隨時標示其創造者、控制者及擁有者的身分。

這四個原則背後所揭示的是AI與人類社會的理想關係,不僅揭露了不遵守將帶來的惡果,也能使在確認大方向之後,維持人類的尊嚴以及民主成果。

本文摘自法蘭克.巴斯夸利Frank Pasquale著作《二十一世紀機器人新律》,以下為本書摘要。

文章插圖

護理師忙到爆炸,誰能來照顧你?

醫療照護可以是件困難、骯髒、單調甚至是危險的工作,由機器人AI組成的新興部隊可以減輕照護者的負擔。機器人已經進入醫院和療養院,很少人質疑它們被使用來做清潔、提示(例如服藥或避免吃鹽)、移動(行動不便的病患)等工作或扮演其他各種輔助角色。機器人這些輔助角色解放了照護者(不論是親人、護士、醫生還是朋友),讓照護者可以進行其他更有意義的互動。舉例來說,日本的Robear機器人可以抬起病人上下床,節省一些照護氣力,而且可避免照護工因為移動病患的工作而造成背部傷害。其他的例子如自動化藥盒,可以防止用藥錯誤,而這一直是老人照護工作令人頭痛的難題。

理想上,這類創新可以解放護理人員,進而投入更多心力在人類獨特的互動關係,例如,以下這個臨終關懷工作者的案例,以及她為臨終者所提供的療癒與安撫效果:

  海瑟不像醫院的護士那樣敏捷或有效率,事實上,她故意讓自己沒那麼有效率。大多數時間,當她去拜訪病患時,不需要做任何事:她檢查生命徵象,檢查房子裡是否有足夠的用品和藥物,詢問病患老毛病是否已經消除,還是有出現新症狀……但是,即使沒有其他事情,重點是她待在病患身邊的時間,可以更久一點,聊天或比鄰而坐的陪伴,抑或是當她檢查病患身體時,將手放在病患身上,有皮膚的接觸。對病患來說,她的來訪可能是一天中最重要的時刻……所以,海瑟慢慢做事、她坐下、她放緩步調、她停留徘徊。

在時間緊縮又急迫的醫療機構情境中,很難見到上述這種照護;即使是考量護士的辛勞而設計出來的最低醫護病患比例,醫療機構也很少將這種有目的性的「低效率」考量在內。然而,那是錯誤的,因為這種難以用言語表達的互動關係,正是臨終照護工作最重要的部分。

租用機器人,比一個小時的真人照護費用還少

現在有些AI和機器人被用來承擔那些陪伴和關係連結的任務;記者娜莉.鮑爾斯(Nellie Bowles)描述了一位名叫比爾的老人,對於數位索克斯(Sox)的喜悅之情。索克斯只不過是平板電腦螢幕上的一隻動畫貓,每天問比爾過得好不好、回答比爾的問題,並偶爾嘮叨比爾要吃好一點。比爾知道索克斯的背後是遠端的工作人員在操作,在觀看比爾的行為時輸入索克斯應該要「說」的內容,但是,比爾發現,即使只是匆匆而過的生活和健康問候,也有助於緩解他妻子去世以來的寂寞。正如另一位索克斯使用者在一段影片中所說:「很高興有人問你今天過得怎麼樣,或關心你是否有什麼困擾的心事。」

愛爾蘭的陪伴機器人麥羅(Mylo),可以把自己的臉換成貓臉;麥羅是一種可移動的物體,其骨架讓人聯想到電影《星際大戰》(Star Wars)的C-3PO機器人。開發麥羅機器人的社會企業家,將這種機器人定位為撫慰者與看護者的角色,能提醒老年癡呆症患者每天服藥,或在病患呼救時,或者出現長時間未有動靜的不尋常情況時,趕快向家人發出警示。使用者每天只需支付9歐元就能租用麥羅機器人,比一個小時的個人照護費用還少。這種成本差異,可能使社交和照護機器人超越它們輔助人類照護員應有的角色,而朝著替代人類照護員的方向發展。

機器的陪伴能替代親友的關心與愛嗎?

我們很容易會將人格特性投射到玩偶、卡通人物和電視角色上,對於一個孤獨的人而言,即使是一顆排球,也就足夠形成人格了(想想電影《浩劫重生》中男主角湯姆.漢克斯的角色)。

媒體理論家拜倫.李夫茲(Byron Reeves)和克里夫.納斯(Clifford Nass)指出,許多人傾向連結媒體上的角色,好像他們就是自己生活中的真實存在,「(這些)反應不需要策略性思考;相反的,它們是無意識的。這些反應也不是由提供它們的人所決定,卻一直反射式地出現。」同樣道理,機器人也可以激發類似的情感,產生它們自己的擬人化或動物化;可是,當機器人召喚信任或友誼的對象,本身是脆弱族群時,就會涉及敏感的倫理議題。

文章插圖

舉例而言,設想我們用貌似動物的機器人,來替代寵物的可能性。動物輔助治療在一些長期照護機構非常受歡迎,就像美國的「綠色照護中心」(green nursing homes);不幸的是,員工可能很難控制動物,因此許多照護機構會擔心動物咬傷或抓傷人類,可能造成機構要額外負擔的責任,然而機器人有望提供一種更安全的另類選擇。

孫子都不來,阿公就把紅包給機器人囉

日本研究人員開發了派羅(Paro)機器人,作為癡呆症患者的伴侶。它是一種看起來像是小海豹的機器人毛絨玩具,行為舉止像寵物,可以模仿欣賞、需要及放鬆等反應;它也會眨眼睛、嗚咽、發出吱吱聲,也可以搖動鬍鬚和尾巴;派羅試著提供非人類的陪伴,但卻可以減少與動物接觸的風險。

隨著我們越來越依賴機器人,麻省理工學院研究員雪莉.特克(Sherry Turkle)呼籲我們應該更加謹慎。根據特克對弱勢族群的觀察,發現「擬仿物」(simulacra)的影響有多麼深遠:「養老院中的長者與派羅機器人玩耍,認真地與這種不知如何定義卻表現得像是小海豹的生物應對。他們的問題從『它會游泳嗎?』、『它會吃東西嗎?』轉換成『它是活的嗎?』、『它會愛人嗎?』」特克擔心我們的社會將變成:忙碌的成年人只給自己的年邁長輩留下一組精緻的玩具,而不是探訪與陪伴。

文章插圖

作為麻省理工學院科技與自我計畫(Initiative on Technology and Self)的創始人兼主任,特克認為人類對於小裝置過度投入,就是將該裝置作為人類社會「慾望-機器」中的「機器性」(machinic)的替代品——機械化互動的「廉價約會」的出現,意味著更加不可預測,但也是對友誼、愛與夥伴關係的終極挑戰以及意義的協商。雖然影片與研究記錄了派羅機器人對長期孤獨者的正向情緒影響,但是,特克認為,這項創新可能恰恰為「疏於照顧」提供了藉口:既然有機器動物陪伴,為什麼還要去探訪爺爺奶奶呢?

人口老化,社交照護機器人需求增加

由於許多老年人的孤獨狀態,派羅機器人的提倡者所指出的,正是這種創新的實際需求。即使是與寵物治療師會面,也只能一次幾個小時;假如真沒有其他選擇,沒有人或動物可以表示關心或愛,那麼派羅機器人的存在,不是比什麼都沒有要來得好嗎?若要說「人的年齡」從嬰兒期到老年就像一個完整的循環,那麼,派羅機器人不就是小孩的《絨毛兔》(The Velveteen Rabbit),只是變成高科技版本而已嗎?

《絨毛兔》這個經典童話故事中的毛絨動物,對於一個孤獨的小男孩來說,是真實的;支持者認為,派羅一般來說不會替代真正的陪伴,但卻對一小部分人有替代效果,因為他們的照護需求較為昂貴,容易導致私人和政府財庫不堪負荷。

那些推廣社交機器人的人喜歡引述相關統計數據,說明優質護理之家的短缺以及此類服務的高成本問題,因此,推廣社交機器人是經濟上的必需。

在許多已開發經濟體中,年齡金字塔正逐漸轉變成長方形,因為老年人口已經與年輕人口一樣多。幾十年來,長期照護政策制定者持續憂心美國數以百萬計嬰兒潮一代即將退休;人口老化的現象,被預期將對社交照護機器人帶來巨大的需求,孕育出科技替代人類的思維。的確,在「築牆」仇外心態或生態法西斯主義者的國族主義政治下,科技可能成為富裕國家限制移民的藉口;例如,一個老化人口群體可能會拒絕國外的年輕勞工,因為相信機器人可以完成移民所做的工作。但是,這種自給自足式的想像,可能是自欺欺人,因為只要機器人(或其擁有者)的稅賦少於勞工,機器人支付養老金和醫療健保的能力,就不如他們所替代的勞工。使用政策推動醫療自動化之前,政策制定者應該先明確處理這類長遠的財政影響問題。

我們必須對照護的政治經濟學有大格局的瞭解,才能公平地評估社交機器人的範圍和潛力。老人照護的資金短缺,既不是經濟學的自然規則,也不是工作狂式地增加家庭探訪次數就可以解決(那也是一種無法實現的奢侈);它們是特定公共政策的產物,而它們也可以透過更好的政策來修正(或至少得到改善)。

如果富裕國家實施更加開放的移民政策,許多來自其他國家的勞工可以從事照護工作;正如家庭幫傭人權運動者蒲艾真(Ai-Jen Poo)所努力的,移民勞工的人道安排(以及公民身份的步驟),是實現全球團結和互助的途徑。同理,當提高薪資水準時,原本哀嘆缺工的企業自然就會收到大量求職申請表。

宮崎駿:「這是對生命本身的侮辱」

不可否認地,究竟什麼樣的老人照護機器人是適當的,不同政府可能會做出不同的判斷,並沒有放諸四海皆準、一體適用的處方。例如日本政府特別熱衷在醫療照護情境中部署相關科技。有幾位評論者認為,神道教佛教的傳統,使得日本公民更容易接受機器人及相關技術;例如,前麻省理工學院媒體實驗室主任伊藤穰一(Joi Ito)就看到了泛靈論與機器人接受度之間的深度連結。

然而,日本文化並不是單一的,它也有多元性的一面,所以仍舊會有其他聲音表示對於AI普及應該審慎以對。例如,在一次熱烈的交流活動上,動畫大師宮崎駿(Hayao Miyazaki)表達他對AI動畫怪異人形生物的不舒服感受:
  我覺得非常噁心。如果你真的想製造令人毛骨悚然的東西,你就繼續做吧;我是完全不會讓這項技術納進我的作品裡……我真心認為這是對生命本身的侮辱……我覺得我們快走到盡頭了,我們人類對自己的信念正一點一滴地流逝。

文章插圖

宮崎駿這樣高調地抵制,使得任何將日本接受機器人科技的單一化簡單敘述,都顯得沒那麼簡單。如果說有熱衷採用機器人(例如照護機器人)的人,那另一邊同樣也有頑固捍衛人類、捍衛人際交往、及捍衛傳統互動的人。我們必須謹慎對待「文化」相關的論證,因為單一文化觀點的表述,往往會邊緣化或忽略非主流的異議和聲音。正如印度學者沈恩(Amartya Sen)挑戰新加坡領導人以獨特「亞洲價值觀」作為堡壘,去抵制人權一樣,我們今天必須質疑關於文化同質性的輕率假設。

照護者和被照護者,是工具還是夥伴?

雖然電影和漫畫也許可作為日本文化熱愛自動化機器人的證據,但卻也有悲劇和遺憾的電影和漫畫。例如日本1991年的預言(若直接了當地說)電影《老人Z》(Roujin-Z),對機器替代人類看護充滿了焦慮。電影述說一個飽受病痛折磨的虛弱老人,被一張超級機器化的「照顧」,這床可以滿足他所有的需求,看電視、剪指甲、洗澡,甚至吃飯和排便。不僅電影對整體機器照護的呈現是怪異的,這種機器脫離個人能動性(human agency)、人類指導和人性尊嚴的想法,讓人感到極度不安。

「讓生命值得活下去」的概念,是那麼難以言說與多變,相關的賭注又是那麼地高,而照護者和被照護者之間的決策也相當錯綜複雜,所以,把這樣複雜的關係例行化(routinization)是差勁的建議,更糟糕的是,這也極度冒犯人。

這裡必須釐清的是,前面提到的每一個例子,都可以說明日本的「文化異議」(cultural dissent),而不是日本典型主流的態度。

慶應義塾大學(Keio University)網路文明研究中心助理教授丹妮特.蓋爾(Danit Gal),在「工具」(被工具性地使用)與「夥伴」(更廣泛的同理、 團結、甚至友誼或愛)的光譜之間,將人類對於AI與機器人的態度進行分類。蓋爾的研究提供了一些跡象,顯示日本比較接近光譜中的「夥伴」一方,但他的研究並沒有導出一套龐大統一的「亞洲價值」技術結論,像是韓國則是建立了清晰的「人優於機器的階級體系,而AI和機器人有望支持並進一步增強這種人類主導地位」。蓋爾也推斷,中國處於這兩種典範中間,而且有關人機互動基本前提的政治和文化辯論仍在進行中。隨著這些獨特取徑與典範的發展,經濟學界不應該預設替代式自動化(譯注:如照護AI)具有「規模(經濟)」效益,認為它可以像以人為中心的護理服務那樣成熟。

機器人不會取代真人 但能減輕照護者的壓力

勞動力參與及需求的大趨勢也很重要。家中有老人的成年子女,在必須承受更大工作壓力的情況下,照護機器人的存在顯得更為合理。「三明治世代」(sandwich generation)因為負擔過重,所以必須在某些地方做出犧牲。相反的,如果生產力提高,將能有更好的分配,對老人照護機器人的需求可能就會減少。創新的擴散,不是因為機器裝置本身的存在,而是因為它在某種社會技術系統中的作用;正如美國法學者瑪莎.菲曼(Martha Fineman)所說的,我們可以重新設計社會制度,來改變這些誘因和壓力,而不是去改變人們,來適應越來越失調的系統制度。

最後(也是此章論點中最重要的一點),在社交機器人和醫療照護工作者之間只能二擇一的觀念,是錯誤的二分法。即使是社交機器人的支持者,現在也傾向將它們視為照護員的輔助,而非替代品。這論點已有證據支持,例如,相較於不干涉、不介入的方式,若將派羅機器人,搭配護理師及其他人類照護員的大量參與,可以提供更好的照護效果。

過去十年來,研究人員對機器人的這種用途,進行了許多研究,也獲得許多正向的成果。台灣的精神醫學研究人員發現,「機器人輔助治療可以作為日常活動的節目之一,並且有可能改善社區安養機構中老人社交健康」。挪威的規劃者也發現,當癡呆症老人接觸派羅機器人時,「派羅機器人似乎是增加社交互動與創造參與度的媒介」。人類照護者可以跟社交機器人建立互動關係、鼓勵自我表達、對同儕的關心和對話;這種互補性對病患與照護員都有幫助。

專業學校和醫療照護系統,都應該在弱勢族群和技術系統之間培養專業媒介者的技能。正如倫理學家艾米.范.溫斯伯赫(Aimee van Wynsberghe)所主張的,機器人的部署,反映一種實踐的願景——這裡指的是關懷的實踐。在許多情境下,「人的觸感、目光接觸及人的在場」對照護而言是必要的基礎;當機器人可以改善這種交流互動,它就會受到「價值中心設計」(value-centered design)思維的歡迎。

先進的醫療照護系統已經欣然接受這種互補性,荷蘭紀錄片《來自愛麗絲的問候》(Alice Cares)跟拍一個陪伴機器人的實驗,輔助家庭健康助理的例行拜訪;這個實驗所產生的相互作用,整體而言是正向的。一位老婦人向機器人展示了自己的相簿;另一位老人和機器人一起看足球賽。這個機器人會歡呼、點頭,偶爾表達鼓勵或關心。家庭健康工作者向老人保證,機器人不是要取代真人之間的互動,而是為了讓老人的生活更有趣;那就是信賴的基礎。

文章插圖

鑒於對自動化機器部署的廣泛關注,建立信任是必要的。根據歐洲趨勢調查(Eurobarometer survey),百分之六十的歐盟國家要禁止使用機器人「照護兒童、老人和身心障礙者」,他們的觀點不只是盧德主義,而是認為自主性機器「照護者」的興起代表一種深刻的社會分化:一邊是經歷過人與人連結的人們,另一邊則是那些「降級」到軟體和機器之間的人們。甚至上述接受照護者是否真的有得到關懷照顧,也是個問題。「關懷照護」只能從互惠關係中產生,而不是模仿照護行為的外在表演;在互惠的照護關係中,至少,在原則上,照護者可以有自由意志停止照護。

照護是一種必須不斷投入時間和精力到另一個人身上的關係,是一種持續確認及再確認其照護意願的過程;這使得照護非常珍貴,也可看到人類的自由意志是多麼獨特。因此,AI與機器人可以協助改善照護條件,但卻無法獨力完成這項工作。

文章插圖

本文摘自法蘭克.巴斯夸利Frank Pasquale著作《二十一世紀機器人新律:如何打造有AI參與的理想社會?》,繁體中文版由左岸文化出版,李姿儀翻譯。欲購買的小隊員歡迎透過以下連結前往購買:

博客來(透過這則連結購書,DQ也將獲得一小部分的收益。有了你的支持,我們將能產出更多好文章!)

誠品書店

金石堂

我也想看《二十一世紀機器人新律:如何打造有AI參與的理想社會?》!

  • 活動期間:即日起至 2023/05/08中午12點截止

  • 送出名額:1名(限寄送台澎金馬)

  • 活動方式:

  1. 贊助DQ滿額成為DQ VIP(月定期贊助100元或年度贊助1200元)⁣:贊助網址由此去

  2. 滿足贊助條件後加入DQ VIP專屬社團,就有機會獲得《二十一世紀機器人新律》:社團由此去

🌎什麼是地球圖書館?

地球圖書館」是由DQ地球圖輯隊與出版社的合作活動,每月配合站上文章推廣相關閱讀與獨有優惠,獨掉坑不如眾掉坑,博覽世界大小事之餘,希冀讓小隊員對文章所述事件脈絡發展能有更加深入的了解與體會!

文章插圖

我們為您在DQ飛行船預留了VIP位子,期待您登船贊助DQ