电竞菠菜外围app

Trust AI TUV SUD 专栏第四期:人工智能系统符合性评估框架

2022-06-14 09:30 来源:美通社 作(zuo)者:电源网(wang)

广州2022年6月13日(ri) /美通社/ -- 欧盟人工智能法案将于2024年强制执行,为协助中国人工智能相关企业提前应对即将到来的国际监管,TUV南德意志集团(以下简称"TUV南德")已推出人工智能评估服务:AI 质量架构评估方案。 

本文为Trust AI@TUV SUD的系列专栏的第四篇:人工智能系统符合性评估框架。

AI 质量架构评估方案
AI 质(zhi)量架构(gou)评估方案

2021年4月,欧(ou)盟(meng)委员会发布了欧(ou)洲议事(shi)和理(li)事(shi)会《关(guan)于制定人工智能统(tong)一规则》的提案(以下(xia)简(jian)称"草案")。在专栏(lan)前三(san)期(qi)中我们(men)介绍了该草案严苛的惩罚力度(du)以及对于人工智能的风险分类,以及四种(zhong)政策(ce)选(xuan)项。本期(qi)文(wen)章讨论AI法(fa)案可能会采用的符合性(xing)评(ping)估框架及其执(zhi)行机(ji)制。

对于草(cao)案(an)中所列(lie)的(de)(de)高风险人工智能系(xi)(xi)统,提供者在其(qi)投放市场(chang)或投入使用前,应遵循(xun)基(ji)于内部控制的(de)(de)符(fu)合(he)(he)性(xing)评估程序(xu)(Annex VI),或基(ji)于质量管(guan)理体系(xi)(xi)审核(he)和技术文件审核(he)的(de)(de)符(fu)合(he)(he)性(xing)评估程序(xu)(Annex VII)。提供者应起草(cao)一(yi)份欧盟符(fu)合(he)(he)性(xing)声明(ming)(EU Declaration of Conformity、DOC),并贴(tie)上符(fu)合(he)(he)的(de)(de)CE标志(Article 48)。

制造商如何选择符合性评估流程

-    低风险(xian)人工智能(neng)系统(tong)的(de)提供者(zhe)可以采用基于(yu)内部(bu)控(kong)制的(de)符合性(xing)评(ping)估程序(Annex VI)。

-    对于除Annex III item 2-8所列用途之外的高风险人工智能系统,提供者可以采用基于质量管理体系和技术文件的符合性评估程序(Annex VII)。提供者须选择一个欧盟公告机构。由公告机(ji)(ji)(ji)构(gou)(gou)确认人(ren)工智(zhi)(zhi)能的符合(he)性并签发证书。但是,如果人(ren)工智(zhi)(zhi)能由执(zhi)法(fa)(fa)机(ji)(ji)(ji)关,移民管理或避难,救济机(ji)(ji)(ji)构(gou)(gou)及(ji)其他官方(fang)机(ji)(ji)(ji)构(gou)(gou)使用,欧盟成(cheng)员国授权的执(zhi)法(fa)(fa)机(ji)(ji)(ji)构(gou)(gou)应(ying)取代(dai)公告机(ji)(ji)(ji)构(gou)(gou)进行(xing)符合(he)性确认。

-    对于 Annex III item 2-8所列用(yong)途的高风(feng)险人(ren)工(gong)智能系统,提供者可(ke)以(yi)采用(yong)基(ji)于内部控制(zhi)的符合性评估程(cheng)序(Annex VI),不需要引(yin)入公告(gao)机构,但(dan)是须考虑(lv)2013/36/EU指令的符合性评估程(cheng)序要求(qiu)。

-    如果(guo)提供(gong)者(zhe)(zhe)没有或(huo)仅部分采用人(ren)工智(zhi)能(neng)法案(an)的(de)(de)协调标准,或(huo)者(zhe)(zhe)该协调标准和通用规范(fan)不存在(zai),提供(gong)者(zhe)(zhe)必须(xu)采用基于质量管理体系(xi)审(shen)(shen)核和技术文件审(shen)(shen)核的(de)(de)符合性(xing)评估程序(Annex VII)。


欧盟符合性声明(DOC

欧盟(meng)(meng)符(fu)合性声明应说明符(fu)合人工智能法案(an)中规定(ding)的(de)要求并(bing)及时更(geng)新,在投入市场后的(de)十年内(nei)(nei)由欧盟(meng)(meng)成员(yuan)国主管(guan)机构保管(guan)(Article 48)。声明应包含以下内(nei)(nei)容:

-    人工智能系统(tong)的名称(cheng)和(he)类型(xing);

-    提供者(zhe)或者(zhe)其欧盟代表(biao)(如(ru)适(shi)用)的名称和地址;

-    DOC由提(ti)供(gong)者签发并全权(quan)负(fu)责的声明;

-    符合人工智能法案及其(qi)他(ta)相关(guan)立法(如适用(yong))的声(sheng)明(ming);

-    参考(kao)的协调标准或(huo)其他通用规范;

-    公(gong)告(gao)机构的名称(cheng)及公(gong)告(gao)号(如适用);

-    声明的(de)发布地点和日期,签署(shu)人的(de)姓(xing)名和职(zhi)务等。

符合性评估

 符合性评估将主要包含三个方面:质量(liang)管理体系,技术文(wen)档(dang)的要求,和持续监督。

1.  提供者应建立质量管(guan)(guan)理体系,并(bing)形成(cheng)相(xiang)关(guan)书(shu)面文(wen)件,(Article 17),应至少包括:符合法(fa)规的(de)(de)(de)(de)(de)策略;设计、设计控制和(he)(he)设计验(yan)(yan)证(zheng);开(kai)发、质量控制和(he)(he)质量保证(zheng);开(kai)发之(zhi)(zhi)前、之(zhi)(zhi)间和(he)(he)之(zhi)(zhi)后(hou)要进行(xing)的(de)(de)(de)(de)(de)检查、测试和(he)(he)验(yan)(yan)证(zheng)的(de)(de)(de)(de)(de)程序(xu)和(he)(he)频率(lv);拟采(cai)用的(de)(de)(de)(de)(de)技术(shu)规范/标(biao)准;数(shu)据管(guan)(guan)理的(de)(de)(de)(de)(de)系统(tong)和(he)(he)程序(xu);风(feng)险管(guan)(guan)理系统(tong);投(tou)入市场(chang)后(hou)的(de)(de)(de)(de)(de)监(jian)测系统(tong);与严(yan)重(zhong)事故(gu)和(he)(he)故(gu)障有(you)关(guan)的(de)(de)(de)(de)(de)报告程序(xu);与相(xiang)关(guan)方的(de)(de)(de)(de)(de)沟通处(chu)理;记(ji)录所有(you)相(xiang)关(guan)文(wen)件和(he)(he)信息的(de)(de)(de)(de)(de)系统(tong)和(he)(he)程序(xu);资源(yuan)管(guan)(guan)理;问(wen)责框架等(deng)。

2.  技术文件应(ying)包含所(suo)(suo)需法律要求(qiu)的(de)信(xin)息,在投放市场使用(yong)(yong)前(qian)制(zhi)定,并及时更新(Article 11)。其内(nei)容应(ying)包括以下信(xin)息(Annex IV):对人(ren)工智(zhi)能系(xi)统(tong)(tong)的(de)一般描(miao)(miao)述;系(xi)统(tong)(tong)的(de)组成(cheng)及其开发(fa)过程(cheng)的(de)详细(xi)(xi)描(miao)(miao)述;监测、运行(xing)和控(kong)制(zhi)的(de)详细(xi)(xi)资料;风险管(guan)理系(xi)统(tong)(tong)的(de)详细(xi)(xi)描(miao)(miao)述;在其生命周期内(nei)所(suo)(suo)做的(de)任(ren)何(he)改变的(de)说明(ming);适用(yong)(yong)的(de)协调标准或其他(ta)通(tong)用(yong)(yong)规范的(de)清单(dan);欧盟符合(he)性声明(ming)的(de)副(fu)本;投入市场后(hou)的(de)性能评估(gu)制(zhi)度(du)。

并且,系(xi)(xi)统在运行(xing)时(shi)应自动记(ji)录日志(Article 12),以保(bao)证(zheng)整个(ge)产品(pin)生命周期(qi)内(nei)的可追溯性,从(cong)而防范可能(neng)出现的重(zhong)大风险,并配合上市后的监(jian)管。日志记(ji)录系(xi)(xi)统功能(neng)应至少记(ji)录以下信息:每次使用的时(shi)间(jian);数据(ju)库及对应的输入数据(ju);搜索对应的输入数据(ju);参与结果(guo)验(yan)证(zheng)的自然(ran)人(ren)身份等。

3.  对上市或投入(ru)使用后的(de)(de)人工智能(neng)系(xi)统(tong)应(ying)进行(xing)持(chi)续的(de)(de)监督。提(ti)(ti)供者(zhe)应(ying)以与(yu)人工智能(neng)的(de)(de)性质和风险相(xiang)匹配(pei)的(de)(de)方式,建立(li)并记录投入(ru)使用后的(de)(de)检(jian)测系(xi)统(tong)。该(gai)系(xi)统(tong)应(ying)在(zai)产品整个生命周(zhou)期内积极(ji)、系(xi)统(tong)地(di)收(shou)集、记录和分析由(you)使用者(zhe)提(ti)(ti)供或其(qi)他来(lai)源的(de)(de)相(xiang)关数据(ju),以使得AI提(ti)(ti)供者(zhe)能(neng)够持(chi)续地(di)评估(gu)该(gai)人工智能(neng)系(xi)统(tong)是否符(fu)合法案规定的(de)(de)要求。

公告机构(gou)应(ying)定(ding)期进行审查(Audit),以确保AI提(ti)供者适当地履行经批准的质量管理(li)体系(xi)中的条款和条件,并应(ying)向AI提(ti)供者提(ti)供报(bao)告。

相关方的义务


 


关于TUV南德(de)意志集团(tuan)

TUV南德意志集团成立于1866年,前身为蒸汽锅炉检验协会。发展至今,已成为了全球化的机构。TUV南德意(yi)志(zhi)集(ji)团在(zai)(zai)50个国家设立了1,000多(duo)个分支机构,拥(yong)有(you)25,000多(duo)名员工,致力于不断地提高自身的技(ji)术(shu)(shu)、体系及专业知识(shi)。集(ji)团的技(ji)术(shu)(shu)专家在(zai)(zai)工业4.0、自动驾驶及可再生能(neng)源(yuan)的安全(quan)与可靠(kao)性(xing)方面(mian)均作(zuo)出了显著的技(ji)术(shu)(shu)创新。

Trust AI TUV SUD 人工智能 AI质量架构

一周热门

赫连
电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app 电竞菠菜外围app