賽迪：為老年人設計人工智能技術（2022年）（11頁）.pdf

《賽迪：為老年人設計人工智能技術（2022年）（11頁）.pdf》由會員分享，可在線閱讀，更多相關《賽迪：為老年人設計人工智能技術（2022年）（11頁）.pdf（11頁珍藏版）》請在三個皮匠報告上搜索。

1、- 1 -2022 年年 4 月月 6 日日第第9期期總第總第 528 期期為老年人設計人工智能技術為老年人設計人工智能技術【譯者按【譯者按】2021 年 8 月，世界經濟論壇首次發布了為老年人設計人工智能技術報告。當前，老齡化成為多國面臨的主要問題，人工智能可以有效解決老年人服務需求，但在設計中如果沒有考慮到潛在的風險隱患，老年人則會受到威脅，因此，制定嚴格的人工智能設計準則，滿足老年人服務需求十分必要。報告研究了人工智能設計理念、隱私安全與數據安全等關鍵問題，提出了 14 項指導原則，為人工智能的適老化發展提供相應指導和啟示。賽迪智庫安全產業研究所對該報告進行編譯，期望對我國有關部門有所幫

2、助?！娟P鍵詞】【關鍵詞】老齡化老齡化養老養老人工智能人工智能- 2 -一、概述一、概述隨著全球各地平均壽命的顯著延長，老齡化成為多國面臨的重要問題。在生育率下降、預期壽命延長以及移民的推動下，全球 60 歲及以上的人口正在快速增加，預計 2050 年將超過 16 億。幾乎所有國家都將面臨老年人口的增加，因此，各國政府、衛生系統和私營部門都應做好準備，急老年人之所急、思老年人之所需。雖然醫療服務與經濟安全是基礎，但隨著人們步入老年，人們需要的不再僅僅是病例表和撫恤金，老年人需要針對性的服務，以滿足其生理、心理及社交需求?？萍歼M步日新月異，運用人工智能（AI）等新興技術滿足老年人的服務需求，讓老年

3、人成為人類精神和物質社會中的完整一員不再遙不可及。人工智能具有變革性和廣泛適用性，但如果在設計中沒有重點關注潛在風險隱患，則將會造成不可估量且無法挽回的后果，對從人工智能中受益頗多的老年人群體來說，后果更加嚴重。此類問題龐大繁雜，需要社會科學家、工程師、哲學家和政策專家等協作解決。人工智能的設計不應該刻板地將老齡人視作附屬群體，開發者必須深刻考慮老年人的生活特點，開發滿足用戶需求且保留用戶控制權限的 AI 程序，構建有利于健康、能促進有益互動和發展的方案。自主式輔助機器人、無人駕駛汽車、智能健康軟件、可穿戴裝置、聲控設備和智能家居等人工智- 3 -能技術可用以應對就地養老（即希望在自主選擇的社

4、區中獨立生活）、健康、流動性、社會參與、經濟福利和照顧者負擔等老齡化關鍵問題，但必須以設計意圖指導技術開發，且應充分考慮隱私政策與用戶同意。另外，還應平衡自主性與安全性，防止數據濫用，最大程度減少社會隔絕，也要盡量避免對人工智能的過度依賴。本報告借鑒人工智能現有文獻、 專家訪談和專題小組的成果，為發展負責任的人工智能和滿足老年人需求提供指導。本報告旨在為人工智能開發提供啟示，而非詳盡的指南。二、為老年人設計人工智能的指導原則二、為老年人設計人工智能的指導原則（一）挖掘人工智能服務老年人的潛在價值（一）挖掘人工智能服務老年人的潛在價值在產品生命周期的初期，應當明確老年人能夠如何從人工智能中獲益。

5、該工作包括明確老年人的觀念、待解決的問題、技術解決方法以及老年人如何從中受益。要通過用戶與市場調研來證明人工智能的潛在價值，還必須分清技術帶來的積極與消極影響，并防患于未然。（二）采用以老年人為中心的設計流程（二）采用以老年人為中心的設計流程從早期的概念構想到后期的開發實踐，須邀請老年人和其他相關者（如家人和專業護理人員）在整個產品開發過程中提供反- 4 -饋。訪談、專題小組、相關群體和相關設計技術可以幫助了解這類人群的需求、期許和關注點，從而最大限度地減少推行人工智能可能遇到的障礙?？梢酝ㄟ^多種方式招募老年人進行產品調研：報紙、在線招聘平臺（例如亞馬遜在線勞動交易平臺）、社交媒體以及與地方機

6、構建立合作等。（三）將老年群體特征納入人工智能數據集（三）將老年群體特征納入人工智能數據集在機器學習訓練和測試中，將老年人的數據屬性清晰描述出來，是創建服務老年人的人工智能系統的關鍵一環。但最近一項公開人臉數據集的分析表明，許多數據集對老年人的描述不足，甚至不包含與年齡相關的元數據。創建捕捉老齡人口多樣化信息的數據集（年齡、性別、遺傳、身體缺陷），并在數據集中標注基本元數據，這是為老年人構建公平、積極的人工智能體驗的第一步。（四）開發對老年群體包容性強的產品（四）開發對老年群體包容性強的產品與常見觀點相反，生理年齡并不是老年人的關鍵特征。換言之，老年人的身體、感官和認知能力因人而異，教育水平和

7、科技體驗也各有不同。在人工智能開發過程中，預先征集和考慮不同群體特征的老年人的需求，包括來自不同地域、不同社會經濟地位以及生活在農村的老年人，有助于開發普適性產品。- 5 -（五）考慮老年殘疾人群體的服務需求（五）考慮老年殘疾人群體的服務需求雖然老年人的殘疾可能是感官、肢體和認知功能隨年齡增長而衰退下降所致，但個別老年人也可能是因為以前的生理損傷而導致殘疾。除遵循廣泛性原則外，獲取遭受長期生理損傷的老年人對人工智能系統的反饋意見，是使人工智能系統滿足眾多用戶需要的關鍵所在。（六）公開人工智能的能力與局限性（六）公開人工智能的能力與局限性用戶往往對高保真性、高可靠性的人工智能系統抱有更高的期望。

8、當系統功能無法滿足這些期望時可能導致用戶進行不當操作，且造成意想不到的后果，因此理清并公開人工智能的局限性至關重要。（七）建立評價指標體系評估軟件應用成果（七）建立評價指標體系評估軟件應用成果制定用戶對人工智能技術滿意度的評估指標非常重要。根據人工智能的預期用途，制定標準時還應考慮技術對生活質量、孤獨感、幸福感和樂觀情緒的影響。此外，通過遙測技術和分析錯誤報告，還有助于評估人工智能系統的運行狀況和有效性。（八）尊重老年人隱私的五項原則（八）尊重老年人隱私的五項原則一是一是僅收集絕對必要的數據，防止人工智能泄露老年人期望保護的隱私。- 6 -二是二是通過規范數據存儲和刪除過期數據保護隱私。老年人

9、常常質疑長期存儲數據的必要性，不能將收集與保留數據設置為默認選項，而只應該用于特定有利用途。三是三是在家庭中使用計算機圖像系統時，應尊重老年人的選擇權，考慮將系統安裝于哪些房間。老年人通常將浴室和臥室等房間視為隱私，因此應尊重老年人的選擇權，讓他們能夠自主權衡保護隱私與獲取安全和自動化服務 （例如跌倒檢測） 的利弊得失。四是四是嚴格限制數據的獲取權限。應將獲取權限嚴格限制在能夠在必要時為老年人提供幫助的特定人員中，例如親密的家庭成員和專業人士。五是五是為老年人提供隱私保護的用戶控制。例如可以根據需要輕松打開和關閉某些人工智能設備/功能，或查看監控者視圖。這些設計能讓老年人感受到自身對人工智能的

10、控制能力，對于為老年人營造成功體驗非常重要。（九）公開人工智能收集數據的目的和范疇（九）公開人工智能收集數據的目的和范疇老年人非常擔心侵犯住宅和網絡隱私。他們無法完全理解人工智能技術是如何運作，或者如何使用用戶數據的。因此，必須要做好信息披露，并應預先解決老年人可能關心的所有問題：例如介紹他們使用的智能家居設備、被收集和處理的數據、數據收- 7 -集的目的、對老年人的好處、有權獲取數據的相關方、數據的保留期限以及現有的隱私保護和安全措施等。（十）人工智能產品必須獲得老年人群體的認可（十）人工智能產品必須獲得老年人群體的認可構建的人工智能系統必須得到老年人發自內心的認可，這既是對各種數據采集的法

11、律要求，也是建立用戶信任的關鍵。人們會考慮數據授權的利好和風險，還會利用既有經驗和認識如其他公司或產品對待他們個人數據的方式進行輔助判斷。用戶常常要面對冗長又晦澀的隱私保護政策，并被迫選擇同意。只有用戶能夠意識到正被索要授權、明白被索取的是哪些數據，不被強制要求同意授權、且可以在不影響獲得基礎功能的情況下撤銷授權時，才可以稱得上是真正有意義的用戶同意。在知情、理解、選擇自由和控制這四大基礎上構建用戶同意體驗，并通過嚴格的用戶調查協議評估隱私授權活動，有助于判斷用戶同意流程是否符合預期以及解決老年人關系的主要問題。人們還必須認識到，這種授權并非毫無邊界。換句話說，一種情況下的授權不可自動轉移至其

12、他情況。（十一）最大程度降低老年人受騙風險（十一）最大程度降低老年人受騙風險人工智能虛擬化身（例如護理教練）越來越多地用于與老年人互動， 并為滿足老年人的需求提供自定義服務。 相關報告顯示，使用高仿真聲音與老年人互動時，向老年人明確該聲音為合成聲- 8 -音，有助于調整老年人對人工智能的合理期待，并最大程度降低欺騙造成的危害后果。有關詳細信息，請參閱微軟關于如何披露的部分“披露設計指南”。對于患有中度至重度認知障礙的老年人，披露和同意可能被認為無效，此時應細心核查該項智能技術對這類老年人的利與弊，甚至需要獲取監護人的同意。（十二）保護數據免遭濫用和意外獲?。ㄊ┍Ｗo數據免遭濫用和意外獲取應通

13、過有效的安全防護措施保護老年人的隱私，阻止試圖惡意獲取隱私的行為。（十三）引導老年人構建對人工智能的合理期望（十三）引導老年人構建對人工智能的合理期望人工智能是概率系統，不可避免地會出現偶然錯誤。當老年人在理財或健康管理等高風險情況下使用人工智能時，人工智能的失誤可能造成嚴重后果。此外，由于認識能力隨著年齡增長而衰退，老年人更容易過度依賴人工智能。因此，老年人正是從成功的操作體驗中理解人工智能的操作，準確描述人工智能的作用，并對人工智能的可靠性產生合理期望。出現超出人工智能實際能力的過度信任時，需要將其調整為與人工智能能力相匹配的合理信任度。（十四）評估護理機器人可能導致的社會隔離加劇風險（十

14、四）評估護理機器人可能導致的社會隔離加劇風險為解決護理員的需求缺口， 世界各國將目光轉向護理機器人，- 9 -其中日本處于領先地位。然而，一些學者認為機器人無法完全滿足老年人的社交和情感需求，過度依賴護理機器人，尤其是將機器人作為與人類互動的替代品，可能會降低老人的幸福感。低收入老年人也會因為過度依賴護理機器人而飽受其害。因此，設計人工智能系統應優先考慮老年人的幸福感，最大程度降低機器人的濫用風險，將高強度勞動任務交給機器人，讓護理人員能夠專注于個人護理。三、結語三、結語在全球范圍內， 60 歲及以上年齡的人口增長比其他任何年齡組都要迅速。老齡人口的增加堪稱當今時代社會、經濟與政治的一次重大變

15、革，影響著醫療、政府和社會系統，這些系統還遠遠無法滿足老齡人口的需求?，F在，應調動各級政府、社會、學術界和私營部門共同投資這些支持系統，并借助技術擴大其規模。人工智能等新興技術有潛力應對老齡人口的護理和供養挑戰，然而，這些技術的開發和部署應以老年人為中心，全面考慮老年人的生理需求、心理需要和社交需求，在尊重、維護老年人數據隱私的基礎上，努力提升老年人的生活水平，通過精細化、人性化服務，讓老年人作為社會的一份子被尊重、被愛護。- 10 -譯自：Designing Artificial Intelligence Technologies for Older Adults,August 2021 by World Economic Forum譯文作者：工業和信息化部賽迪研究院程明睿聯系方式：15210580360電子郵件：