經(jīng)過三次發(fā)展浪潮，人工智能已滲透到人類生產(chǎn)、生活的方方面面，在制造業(yè)、交通、教育、醫(yī)療、家居、金融等領(lǐng)域得到廣泛應(yīng)用。人工智能的發(fā)展及應(yīng)用帶來了諸多益處，但也引發(fā)了諸多問題。比如，安全、失業(yè)、隱私侵犯、算法歧視等。面對可能存在的風(fēng)險，“負責(zé)任”成為人工智能發(fā)展的必然要求。2019年6月，中國國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，明確將“負責(zé)任”作為人工智能治理的重要原則。從目前國內(nèi)和國際范圍內(nèi)發(fā)布的關(guān)于人工智能的文件、規(guī)范及相關(guān)領(lǐng)域的理論和實踐研究來看，發(fā)展負責(zé)任的人工智能已成為廣泛共識。負責(zé)任的人工智能面臨兩個現(xiàn)實性難題：誰來負責(zé)？如何負責(zé)？第一個問題是關(guān)于責(zé)任主體的確定，即人工智能產(chǎn)生的責(zé)任由誰來承擔(dān)；第二個問題指向發(fā)展負責(zé)任人工智能的途徑，即責(zé)任主體如何盡責(zé)。

人工智能的責(zé)任問題

在人工智能的多個應(yīng)用領(lǐng)域，目前都已產(chǎn)生了實際的責(zé)任問題。比如，在自動駕駛領(lǐng)域，已發(fā)生過多起由人工智能導(dǎo)致的交通事故。2018年3月，美國亞利桑那州發(fā)生了一起優(yōu)步自動駕駛汽車引發(fā)的車禍，導(dǎo)致一名路人死亡。在事后的調(diào)查和報道中，關(guān)于責(zé)任認定存在一定爭議。有報道提出，該起事故應(yīng)歸責(zé)于軟件缺陷，也有報道認為是行人的責(zé)任而非車輛的責(zé)任。這個案例引出的問題是：自動駕駛領(lǐng)域中交通事故的責(zé)任該由誰負責(zé)？是通過自動駕駛法案的政府、自動駕駛程序編程人員、汽車制造公司，還是優(yōu)步、用戶、行人？

再比如，在醫(yī)療領(lǐng)域，也存在著人工智能應(yīng)用帶來的責(zé)任問題。德國康斯坦茨大學(xué)學(xué)者賈布里（Sarah Jabri）曾在研究中介紹過一個相關(guān)案例：光學(xué)相干斷層成像（Optical Coherence Tomography，OCT）技術(shù)可以實現(xiàn)視網(wǎng)膜等眼組織的活體三維高分辨成像，用于視網(wǎng)膜病變等眼部疾病的診斷和治療。在臨床實踐中，很少有專家能夠?qū)CT進行正確評估，因此經(jīng)常造成治療的延遲。針對這種狀況，人工智能專家開發(fā)了一種利用計算機輔助診斷的深度學(xué)習(xí)算法，能夠評估OCT所做的診斷，并根據(jù)治療的緊急程度對患者進行分類，以減少重癥患者的等待時間。測試表明該人工智能技術(shù)已達到甚至超過人類專家的表現(xiàn)，并顯示出臨床適用性。在這個案例中，當人工智能被用于患者優(yōu)先治療順序的確定與實際診斷，并會影響甚至決定治療的成功與否時，相應(yīng)的倫理以及責(zé)任問題就產(chǎn)生了。醫(yī)生應(yīng)在多大程度上依賴人工智能技術(shù)？由此產(chǎn)生的診斷失誤、醫(yī)療事故應(yīng)由誰負責(zé)？是監(jiān)管主體、研發(fā)人員還是臨床醫(yī)師？

傳統(tǒng)的交通駕駛領(lǐng)域有一整套關(guān)于責(zé)任認定和劃分的規(guī)則；在傳統(tǒng)醫(yī)療領(lǐng)域，主要關(guān)系是醫(yī)生與患者的關(guān)系，其責(zé)任也相對容易界定。但是從以上兩個案例可以看出，由于人工智能因素的介入，責(zé)任主體的界定以及責(zé)任主體應(yīng)如何負責(zé)變得更為復(fù)雜。

誰來負責(zé)

需要明確的是，人工智能在當前的發(fā)展水平下還不能作為責(zé)任主體。盡管目前關(guān)于人工智能是否具有主體地位仍存在爭論，但現(xiàn)在的人工智能作為技術(shù)人工物，本質(zhì)上仍是人類為了達成某種目標而制造的工具。人工智能基于數(shù)據(jù)和算法形成判斷并作出選擇，具有自動性但不具有自主性，具有行動能力但不具有行動意識、思維能力，因此無法成為責(zé)任主體。

因此，當討論人工智能的責(zé)任問題時，實質(zhì)上討論的是人類的責(zé)任。在全國信息安全標準化技術(shù)委員會秘書處2021年1月發(fā)布的《網(wǎng)絡(luò)安全標準實踐指南—人工智能倫理安全風(fēng)險防范指引》中，提出了四大責(zé)任主體：研究開發(fā)者、設(shè)計制造者、部署應(yīng)用者及用戶。在《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》中，提出了共擔(dān)責(zé)任的原則，涉及“研發(fā)者、使用者和受用者”幾個主體。盡管不同文件中所界定的責(zé)任主體不完全相同，但可以明確的是，人工智能的責(zé)任主體不是某個單一群體，而是多元行為主體。

由于太多行為主體參與到人工智能技術(shù)的研發(fā)、制造與使用中，可能會導(dǎo)致具體責(zé)任難以認定及責(zé)任主體相互推諉的問題。如荷蘭馬斯特里赫特大學(xué)學(xué)者韋爾伯斯（Katinka Waelbers）所言，“自然科學(xué)家經(jīng)常聲稱他們只是開發(fā)知識，實際應(yīng)用不在他們的責(zé)任范圍之內(nèi)。工程師和工程公司認為他們的設(shè)備沒有問題，并以此來推卸責(zé)任。在他們看來，技術(shù)的使用（或濫用）才是問題的根源。而用戶則傾向于聲稱自己缺乏能力：一個普通消費者怎么會知道技術(shù)的影響呢？即使有了知識，個人還能做些什么？他們經(jīng)常指出政府應(yīng)該承擔(dān)責(zé)任。然而，西方政府機構(gòu)的行動往往落后于技術(shù)的發(fā)展”。在人工智能責(zé)任問題上存在的這種困境，會引出發(fā)展負責(zé)任的人工智能所要回答的第二個問題：如何負責(zé)？

如何負責(zé)

要解決如何負責(zé)的問題，各個責(zé)任主體需明確并承擔(dān)起相應(yīng)責(zé)任。綜合考慮上文各文件中關(guān)于責(zé)任主體的界定，可以將責(zé)任主體劃分為監(jiān)管者、研發(fā)者、生產(chǎn)制造者和使用者。

監(jiān)管者。這類主體主要指政府部門，也包括參與人工智能監(jiān)管的非政府機構(gòu)、組織和團體。從目前世界范圍來看，各主要國家的政府機構(gòu)都相繼發(fā)布了人工智能發(fā)展報告綱要，制定了相應(yīng)國家政策和發(fā)展戰(zhàn)略，對人工智能發(fā)展進行了倫理監(jiān)管。在我國，國務(wù)院于2017年7月印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，國家標準化管理委員會、中央網(wǎng)信辦、國家發(fā)展改革委、科技部、工業(yè)和信息化部五部門于2020年7月聯(lián)合印發(fā)了《國家新一代人工智能標準體系建設(shè)指南》，為人工智能重點發(fā)展方向、技術(shù)研究標準體系建設(shè)進行頂層設(shè)計，提供指導(dǎo)方案。人工智能處于飛速發(fā)展之中，政府及相關(guān)組織團體需要準確把握人工智能發(fā)展大勢，為人工智能發(fā)展制定更具前瞻性的標準體系、管理規(guī)范，持續(xù)跟進領(lǐng)域內(nèi)最新動態(tài)，并對研發(fā)、制造、使用等環(huán)節(jié)進行監(jiān)測和管理。

研發(fā)者。這類主體是指從事人工智能理論創(chuàng)新和技術(shù)研發(fā)的組織或個人。人工智能所要遵循的倫理原則、價值與標準需要在研發(fā)環(huán)節(jié)置入。由于人工智能的行為及功能由算法決定，研發(fā)主體需要充分考慮其研發(fā)成果可能導(dǎo)致的風(fēng)險，明確人工智能需要遵循的人類價值觀和倫理規(guī)則，如公平、安全、透明與多樣性等。其中透明原則是發(fā)展“負責(zé)任”人工智能的基本要求。因為，在“黑箱”情況下，主體很難承擔(dān)責(zé)任。另外，人工智能技術(shù)不是獨立于社會而存在的，研發(fā)主體需要考慮人工智能發(fā)展的社會文化環(huán)境，并考慮價值設(shè)置的優(yōu)先等級，如我國在人工智能發(fā)展中要求重視集體利益、社會穩(wěn)定等。

生產(chǎn)制造者。這類主體是指從事人工智能產(chǎn)品生產(chǎn)制造的組織或個人。國家標準化管理委員會發(fā)布的《人工智能標準化白皮書（2018版）》將人工智能產(chǎn)品界定為“人工智能領(lǐng)域的技術(shù)成果集成化、產(chǎn)品化”，并將人工智能產(chǎn)品分為智能機器人、智能運載工具、智能終端、自然語言處理、計算機視覺等類型。在這些人工智能產(chǎn)品的生產(chǎn)中，生產(chǎn)主體應(yīng)嚴格遵守人工智能領(lǐng)域的法規(guī)和行業(yè)標準，確保所制造的產(chǎn)品符合社會及人類利益；充分評估產(chǎn)品使用中可能存在的風(fēng)險，并設(shè)置相應(yīng)的應(yīng)急機制；保證產(chǎn)品的可解釋性和可說明性，并為使用者提供關(guān)于產(chǎn)品功能、使用方式及風(fēng)險應(yīng)對等方面的明確信息。

使用者。這類主體是指在各種情況下使用人工智能技術(shù)產(chǎn)品的組織或個人。使用主體應(yīng)具備使用人工智能所要求的基本知識和能力，能夠正確、規(guī)范使用技術(shù)產(chǎn)品，且不能利用人工智能實施任何有害他人及社會的行為。為了使用主體更好地承擔(dān)其主體責(zé)任，需要普及人工智能基礎(chǔ)知識教育。這既是使用主體承擔(dān)責(zé)任的基本要求，也符合其他倫理原則（如公平、反歧視等）的要求。

以上對責(zé)任主體及各主體所要承擔(dān)責(zé)任進行了概要分析。在具體實踐中，需要在人工智能發(fā)展的總體框架及基本原則的指導(dǎo)下，根據(jù)不同領(lǐng)域內(nèi)人工智能的發(fā)展階段、應(yīng)用場景、使用特征等分門別類地進行更細化的討論和研究。比如，在自動駕駛領(lǐng)域，相關(guān)研究指出汽車廠商應(yīng)是主要責(zé)任方；在醫(yī)療領(lǐng)域，除了上文提到的各主體，還涉及醫(yī)療機構(gòu)中的專業(yè)評估組織等。

發(fā)展負責(zé)任的人工智能，需要構(gòu)建相應(yīng)倫理治理原則。但我們不能僅停留在對原則、規(guī)范的探討層面，還需要各個責(zé)任主體的合作和參與。只有各方形成合力，負責(zé)任的人工智能才有實現(xiàn)的可能。

（本文系國家社科基金重大項目“人工智能倫理風(fēng)險防范研究”（20&ZD041）階段性成果）

（作者單位：同濟大學(xué)馬克思主義學(xué)院）

來源：中國社會科學(xué)網(wǎng)-中國社會科學(xué)報　作者：盧衛(wèi)紅

免責(zé)聲明：本網(wǎng)轉(zhuǎn)載自其它媒體的文章，目的在于弘揚科技精神，傳遞更多科技信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé)，在此我們謹向原作者和原媒體致以敬意。如果您認為本站文章侵犯了您的版權(quán)，請與我們聯(lián)系，我們將第一時間刪除。