2022年6月美國防部副部長凱瑟琳-希克斯簽署了美國防部負責任的人工智能戰略和實施途徑(RAI S&I Pathway),該途徑指導國防部(DoD)實現其可信人工智能(AI)生態系統的目標。美國防部必須將自己轉變為一個為人工智能做好準備的組織,將負責任的人工智能(RAI)作為一個突出的特征,以保持其競爭優勢。
近年來,人工智能(AI)在醫學和醫療領域的應用因其巨大的潛力而備受贊譽,但也一直處于激烈爭議的中心。這項研究概述了人工智能如何有益于未來的醫療保健,特別是提高臨床醫生的效率,改善醫療診斷和治療,以及優化人力和技術資源的配置。該報告確定并澄清了人工智能在醫療保健領域造成的主要臨床、社會和倫理風險,更具體地說: 潛在錯誤和患者傷害;存在偏見和衛生不平等加劇的風險;缺乏透明度和信任;易受黑客攻擊和數據隱私泄露的影響。該研究提出了緩解措施和政策選項,以最大限度地降低這些風險,并使醫療人工智能的利益最大化,包括通過人工智能生產生命周期的多方參與,提高透明度和可追溯性,對人工智能工具進行深入的臨床驗證,以及對臨床醫生和公民進行人工智能培訓和教育。
目標
近年來,人們對人工智能(AI)在醫學和醫療保健領域的應用的興趣和關注迅速增長,成為跨學科科學研究、政治辯論和社會行動主義的中心。本報告的目標是解釋人工智能可以在醫療和保健領域做出貢獻的領域,查明在這個高風險和快速變化的領域中應用人工智能的最重大風險,并提出應對這些風險的政策選項,以優化生物醫學人工智能的使用。這不僅能確保接受人工智能醫療的患者的安全和尊重,還能幫助參與實施人工智能醫療的臨床醫生和開發人員。
方法
本研究采用跨學科方法,基于對現有科學論文、白皮書、近期指南和法規、治理建議、人工智能研究和在線出版物的全面(但非系統性)文獻綜述和分析。本報告涉及的多學科資源包括計算機科學、生物醫學研究、社會科學、生物醫學倫理、法律、工業和政府報告等領域的著作。本報告探討了廣泛的技術障礙和解決方案、臨床研究和結果,以及政府建議和共識指南。
人工智能在醫學和醫療保健中的具體應用
這項研究首先概述了人工智能在醫學領域解決緊迫問題的潛力,特別是人口老齡化和慢性疾病的增加、衛生人員缺乏、衛生系統效率低下、缺乏可持續性和衛生不平等。報告還詳細介紹了生物醫學AI可能做出最重要貢獻的不同領域: 1) 臨床實踐,2)生物醫學研究,3)公共衛生,4)衛生管理。在臨床實踐領域,該報告進一步詳細介紹了具體貢獻-實現和潛在的-特定醫療領域,如放射學,心臟病學,數字病理學,急救醫學,外科手術,醫療風險和疾病預測,適應性干預家庭護理和心理健康。在生物醫學研究方面,該報告詳細介紹了人工智能對臨床研究、藥物發現、臨床試驗和個性化醫療的潛在貢獻。最后,報告介紹了人工智能在公共衛生一級以及對全球衛生的潛在貢獻。
本出版物是歐盟委員會科學和知識服務機構聯合研究中心 (JRC) 的一份報告。它旨在為歐洲決策過程提供基于證據的科學支持。所表達的科學成果并不意味著歐盟委員會的政策立場。歐盟委員會或代表委員會行事的任何人均不對本出版物的可能使用負責。
本報告是在 AI Watch 的背景下發布的,這是歐盟委員會于 2018 年 12 月推出的用于監測歐洲人工智能 (AI) 的發展、采用和影響的知識服務。
人工智能已成為具有戰略意義的領域,有可能成為經濟發展的關鍵驅動力。人工智能還具有廣泛的潛在社會影響。作為其數字單一市場戰略的一部分,歐盟委員會于 2018 年 4 月在其“歐洲人工智能”中提出了一項歐洲人工智能戰略。宣布的歐洲人工智能戰略的目標是:
● 提高歐盟的技術和工業能力以及人工智能在整個經濟中的應用,包括私營和公共部門;
● 為人工智能帶來的社會經濟變化做好準備;
● 確保適當的道德和法律框架。
2018 年 12 月,歐盟委員會和成員國就歐盟人工智能的發展發布了“人工智能協調計劃”。協調計劃提到了 AI Watch 監控其實施的作用。
隨后,在 2020 年 2 月,委員會公布了其對所有人都適用的數字化轉型的愿景。委員會提交了一份白皮書,提出了一個基于卓越和信任的可信賴人工智能框架。
此外,2021 年 4 月,歐盟委員會提出了一系列促進人工智能卓越發展的行動,以及確保該技術值得信賴的規則。擬議的《歐洲人工智能方法條例》和《人工智能協調計劃》的更新旨在保障人民和企業的安全和基本權利,同時加強歐盟國家的投資和創新。 2021 年對 AI 協調計劃的審查參考了 AI Watch 的報告,并確認了 AI Watch 在支持協調計劃的實施和監測方面的作用。
AI Watch 監測歐盟在人工智能方面的工業、技術和研究能力;成員國與人工智能相關的政策舉措;人工智能的采用和技術發展;和人工智能的影響。 AI Watch 在全球范圍內以歐洲為重點。在 AI Watch 的背景下,委員會與成員國協調工作。 AI Watch 結果和分析發布在 AI Watch Portal (//ec.europa.eu/knowledge4policy/ai-watch_en) 上。
通過AI Watch的深入分析,我們將能夠更好地了解歐盟的優勢領域和需要投資的領域。 AI Watch 將對人工智能對增長、就業、教育和社會的影響和益處進行獨立評估。
AI Watch 由歐盟委員會聯合研究中心 (JRC) 與通信網絡、內容和技術總局 (DG CONNECT) 合作開發。
本報告涉及 AI Watch 的以下目標:開發一個 AI 指數,包括與政策制定相關的維度。它通過以指標的形式提供統計證據來總結 AI Watch 提供的主要結果。
經過多年非常活躍的技術發展,無論是在硬件還是軟件方面,人工智能領域已經蔓延開來,其影響在經濟和社會中無處不在,越來越多的人工智能支持的工具和應用程序被用于工作環境和個人領域。與所有創新技術一樣,必須對新興人工智能領域及其趨勢進行全面監測,以了解其影響的范圍。這個動作可以讓您了解可能需要注意或干預的問題和情況。在這方面,本出版物從多個角度分析了與人工智能發展相關的多個指標。盡管地理重點是歐盟 27 國,但在可能的情況下,我們會提供與全球主要人工智能強國(即美國和中國等)的比較。此外,如果可用,還為 27 個歐盟成員國提供指標。
該分析分為五個維度:(i) 人工智能領域的全球視野,(ii) 行業,(iii) 研發 (R&D),(iv) 技術,以及 (v) 社會方面。結果表明,正如預期的那樣,人工智能正處于技術演進和改進的階段。美國在經濟方面處于世界領先地位。中國緊隨其后,特別是由于該領域的專利活動非常突出。歐盟位居第三,但有幾個因素支持這樣一個論點,即與這兩個領先國家的距離并不像人們經常提到的那樣。分析表明,歐盟在研發方面的表現非常出色——超出了歐共體資助項目的考慮范圍。此外,歐盟展示了人工智能服務和自主機器人技術的專業化。此外,歐盟在工業機器人和新機器人初創企業的貿易中表現出非常積極的動態。關于人工智能的投資,我們觀察到歐盟領域潛在發展的積極信號,因為去年所有 27 個歐盟成員國的私人和公共投資水平都有所增加。
本報告介紹了人工智能觀察指數,這是一組指標,可以更好地了解歐洲的優勢領域以及人工智能 (AI) 領域值得關注的領域。 AI Watch Index 提供了一套結構化的量化指標,用于衡量 EU1 在與決策相關的 AI 的各個維度上的表現和定位。該指數的地理重點是歐盟,在有數據的情況下,覆蓋各成員國。由于部分指標覆蓋全球,歐盟與美國、中國等人工智能領域主要參與者的比較分析也成為可能。該指數圍繞五個維度進行組織:(i) 人工智能領域的全球視野,(ii) 行業,(iii) 研發 (R&D),(iv) 技術,以及 (v) 社會方面。表 1 列出了圍繞 5 個維度和 10 個子維度組織的 22 個指標列表。
表1:AI 觀察指數各維度指標匯總
分析顯示,在全球人工智能格局、人工智能產業和人工智能研發維度上,美國在人工智能領域處于全球領先地位,其次是中國和歐盟。
歐盟最重要的因素一方面在于其在人工智能服務和機器人技術(包括自主機器人和工業機器人)中的重要作用,另一方面在于其在人工智能研發活動方面的強勢地位。關于人工智能服務——與提供人工智能服務和應用程序相關的活動,包括基礎設施、軟件和平臺服務——歐盟在全球范圍內具有優勢,因為其在人工智能領域的經濟活動份額高于全球平均水平。事實上,雖然美國在人工智能服務的全球份額中占有較高的份額,但相對歐盟人工智能服務在歐盟人工智能活動總數中的份額高于美國。同樣,歐盟在自主機器人技術方面也具有比較優勢——機器人系統旨在在涉及與其他機器或人類交互的相對復雜的環境中運行。歐洲在工業機器人貿易(考慮出口和進口)方面的比較優勢,以及新機器人初創企業數量的穩步增長趨勢,都補充了這一點。鑒于人工智能有望在機器人領域發揮重要作用,作為其技術發展下一步的關鍵推動力,這一點尤其重要。事實上,人工智能支持的未來幾代機器人有望更好地與物理現實交互,尤其是與人類交互(例如,用于照顧人類的機器人)。歐盟在機器人相關領域的主導地位表明其在該領域的未來競爭力。同時,這里考慮的技術領域極具活力,需要對工業和技術發展進行投資以保持競爭優勢。
其次,歐盟在人工智能研發活動方面非常活躍,以人工智能相關專利和頂級人工智能會議上的前沿研究出版物為代表。盡管英國脫歐對整個歐盟 AI 格局產生了明顯影響,但歐盟成員國形成的研究合作和伙伴關系使他們能夠在全球范圍內擁有影響力。換句話說,歐盟成員國建立了研發合作網絡,支持他們交換信息的能力,進而建立知識。這些是創新能力的關鍵要素。單獨考慮專利和研究出版物,可以觀察到一些相關差異:雖然歐盟在前沿研究出版物方面發揮著非常重要的作用,僅次于美國,但歐盟的專利活動仍然較為平和。還有第三種類型的研發活動,即歐盟資助的項目,為了進行國際比較,我們的分析并不總是考慮這些活動。然而,它們對整個研發生態系統的貢獻是根本性的。此外,正如之前的 AI Watch 工作(Righi 等人,2021 年)所討論的,框架計劃的項目(例如 FP7 和 H2020)使眾多經濟參與者能夠參與 AI 領域。由于此,歐盟在這一技術領域的經濟參與者數量幾乎翻了一番(與不考慮歐盟資助項目的參與者數量相比)。然而,這些參與者在沒有公眾支持的情況下在人工智能領域保持活躍的能力值得進一步探索。
如上所述,美國是全球人工智能領導者:它擁有大量活躍的人工智能參與者;它在多個人工智能領域(人工智能服務、音頻和自然語言處理、自主機器人以及聯網和自動駕駛汽車)具有比較優勢;它擁有大量以人工智能為核心業務并同時開發人工智能專利的公司;并從事大量研發活動(專利和前沿研究)。因此,美國的領先地位顯得穩固,沒有明顯的弱點。
我們對中國人工智能格局的了解主要得益于其非常激烈的專利活動。然而,專利質量標準的降低和中國政府最近實施的政策導致申請量激增,這支持了這樣一種論點,即中國在人工智能領域的規模可能沒有乍看之下那么突出。盡管如此,中國仍應被視為該領域的主要參與者,主要有兩個原因。首先,它在 ICT 制造領域的大量參與保證了任何數字技術(包括人工智能)蓬勃發展的基本硬件需求。例如,近年來,中國的 ICT 行業增加值每年增長 13.1 個百分點(Mas 等人,2021 年),同時已經從主導地位發展(增加值第二,僅次于美國)。其次,即使考慮到上述觀點,在中國提交的大量人工智能相關專利申請也不容忽視,特別是考慮到大量經濟參與者參與人工智能領域(超過 9,000 個)。關于中國值得考慮的另一個方面是對數據的大量訪問,這是人工智能系統的燃料。除其他外,這是由于使用數字服務和應用程序的人口眾多,以及對訪問和使用個人數據的法律限制較少(Arenal 等人,2020 年)。
這項工作的其他見解涉及人工智能領域的技術發展。我們觀察到 AI 技術在多項任務(例如圖像分類、人臉識別、語音識別、文本摘要)中的性能不斷提高。基準每年都在改進這一事實,清楚地證實了人工智能目前正在經歷技術擴展階段。觀察到的大量 AI 標準化活動強化了這一結論,這是歐盟成員國積極參與的一個方面,特別是考慮到制定支持歐洲 AI 法規提案(AI 法案)的標準。
AI Watch Index 的另外兩個指標涵蓋社會方面:AI 研究的多樣性,以及大學級別的高級 AI 技能教育產品。重要的是,初步結果顯示,最近人工智能研究界在性別、隸屬位置和研究人員所屬機構類型方面的異質性有所增加,這可能反映了研究界中包容性和多樣性政策的影響。這與值得信賴的人工智能的發展和社會包容都有關。事實上,研究人員的出身、性別和隸屬關系的異質性有望減少算法開發中的偏見,促進為訓練集選擇具有代表性的數據源,并減輕研究界有限視角可能導致的其他類型的風險。該維度還分析了與人工智能相關的大學學術課程,因為這勢必會影響未來工人的就業能力以及經濟中先進數字能力的整體存在。在這方面,發現成員國之間存在顯著差異,這可能導致未來歐盟人口之間的不平等。結果表明,人工智能內容在碩士學位課程中的出現頻率高于在學士學位課程中的出現頻率。這似乎表明,在已經向學生傳授基本知識之后,人工智能被認為是一門專業學科,主要涵蓋在教育路徑的后期階段。建議在各個層面提供更廣泛的人工智能相關內容,而不僅僅是高級課程,以促進人口的數字包容并增加歐洲數字轉型帶來的經濟利益。
歐盟委員會在2020年2月19日發布《人工智能白皮書》,提出一系列政策措施,旨在大力促進歐洲人工智能研發,同時有效應對其可能帶來的風險。
人工智能戰略是歐盟數字戰略的核心支柱之一。歐盟提出要建立一個“可信賴的人工智能框架”,重點聚焦三大目標:研發以人為本的技術;打造公平且具有競爭力的經濟;建設開放、民主和可持續的社會。并提出了一項雄心勃勃的投資計劃,將在今后10年內每年投入高達200億歐元的技術研發和應用資金。歐盟在保護公民隱私和數據安全方面制定了一系列措施。例如,人工智能企業必須通過相關部門的安全測試和資質審核才能進入歐盟市場。
《人工智能白皮書》將在未來三個月內接受各界人士的公開咨詢,再根據反饋結果進行相應修訂。根據計劃,歐盟將于今年年底制定出臺《歐盟數字服務法》等具有法律約束力的數字規則,從而對規范市場準入、強化企業責任和保護基本權利等問題作出明確規定。
分析人士指出,歐盟此舉不僅是要補足前沿科技短板,更是要搶抓數字時代的全球規則主導權。
白皮書指出,人工智能 (AI) 是一項戰略性技術,有益于社會、公司和個人。AI以人為本,基于道德,可持續發展,尊重最基本的權利和價值。AI帶來的效率和生產率不僅能夠提升歐洲的產業競爭力,提升人們的生活福祉,還能夠有效應對氣候變化、環境退化、人口變化、民主權益、社會犯罪等一些急迫解決的社會問題。
在激烈的全球競爭大背景下,歐盟需要在2018年4月發布的《歐盟AI戰略》基礎上找到一條堅實可靠的歐洲路徑。面對AI帶來的機遇與挑戰,歐盟需要秉持歐洲價值觀,以自己獨有的方式行動起來,推動AI的發展和部署。歐盟委員會致力于推動AI科技創新,保持歐盟AI科技的領先地位,確保新技術為全歐洲服務,在提升人們生活質量的同時尊重相關權益。為了抓牢本次AI帶來的機遇,歐洲必須加強產業和技術能力建設。與歐洲AI戰略相呼應的《歐洲數據戰略》中指出,仍需要采取措施使得歐洲成為全球數據中心。《歐洲數據戰略》旨在讓歐洲成為世界上最具吸引力、最安全、最動態的數據經濟體。
歐盟委員會支持的這項投資導向的監管路徑有著雙重目標:一是推動AI進步;二是應對在使用AI過程中產生的相關風險。歐洲AI路徑旨在提升歐洲在AI領域的創新能力,同時提升貫穿歐盟經濟的道德性和可靠性。AI應該服務于人類生活福祉的提升和社會更好的發展。
白皮書分六個章節。一是引言,包含問題界定、可能需要修訂的現存與AI相關的歐盟立法框架、未來歐盟監管框架范圍、要求類型。二是“利用產業和專業市場的優勢”。三是“抓住面前的機遇—下一個數據浪潮”。四是“卓越生態系統”。五是“信任生態系統—AI監管框架”。六是結束語。
白皮書主要圍繞“卓越生態系統”(ecosystemof excellence)和“信任生態系統”(ecosystem of trust)兩個方面的建設展開:
一、“卓越生態系統”。是要建設一個歐洲、國家和地區三個不同層面措施協同的政策框架。公共部門和私營部門共同合作,調動資源,沿著整體價值鏈建設“卓越生態系統”,從研發創新開始,建設正確的激勵機制來加快AI解決方案的在包括中小企業在內的應用。
二、“信任生態系統”。它是歐洲AI未來監管框架的關鍵要素。要做到這一點,必須確保體系遵守歐盟的規則,包括保護基本權利和消費者權利,尤其是那些在歐盟運行的、風險較高的AI系統。這個政策為市民使用AI應用增添了信心,為企業和公共組織的AI創新提供了法律保障。歐洲委員會強烈贊同“以人為本”。
白皮書指出,歐盟資金項目(EU fundingprogramme)在集中力量辦大事上具有重要貢獻,能夠避免重復建設,并撬動歐盟成員國公共部門和私營部門的投資。在過去的三年中,歐盟資金用于AI研究和創新的費用15億歐元,與之前相比增長了70%。
然而,歐洲的AI投入在世界也僅占一小部分。2016年,歐洲用于AI的投入為32億歐元。北美為121億歐元。亞洲為65億歐元。作為回應,歐洲需要大幅度提高AI研究和創新領域投資水平。目標是在未來10年,歐盟資金每年在成員國范圍內吸引200億歐元的AI技術研發和應用資金。
//ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf