site logo: www.tvsmo.com

生成式AI负面效应 KPMG提三关键治理

KPMG安侯建业顾问部执行副总林大馗16日建议治理三要点,包含建构负责任且可解释的AI、持续调整参数与优化空间,以及资讯安全的严防。(侯骏霖/大澳门威尼斯人赌场官网)
人气: 144
【字号】    
   标签: tags: , ,

【大澳门威尼斯人赌场官网2023年06月16日讯】(大澳门威尼斯人赌场官网记者侯骏霖台湾台北报导)ChatGPT引领科技发展走向奇异点,为人类社会带来便利性的同时,也造成个资或企业机密外泄、诈骗层出不穷。针对发展人工智慧的应用与服务,KPMG安侯建业顾问部执行副总林大馗16日建议治理三要点,包含建构负责任且可解释的AI、持续调整参数与优化空间,以及资讯安全的严防。

KPMG安侯建业16日举办2023第二季读书会,现场问卷调查高达7成参与人员,焦虑人工智慧(AI)发展将取代现有工作。林大馗认为,AI发展不会是昙花一现,而是作为商业社会基础建设,以后服务产品将叠加于AI基础上。

不过,林大馗说,曾亲自测试“2022年世足赛冠军得主”问题,ChatGPT却给出巴西这个错误答案,但冠军得主应是阿根廷,可能AI受限于训练资料年份,显见人类不能只是依赖AI生成的解答,仍需最终的决策与判断。

根据世界经济论坛(WEF)预测,2026年网路世界可能将有9成以上内容由AI生成,针对AI发展的应用与服务,林大馗也提出治理三重点,首先,AI要有持续调整参数及优化空间,除了算法、技术框架等细节,还要考虑误判或漏判情况,因此须有弹性空间。

第二,建立负责任且可解释的AI,亚马逊(Amazon)透过AI决定雇用员工高达90%以上为男性偏见,或民众开启感测器进行路况侦测的自动驾驶,笔直撞上障碍物等,许多分析结果难以解释或对其究责,建议要透明算法、学习模式及资料集,让使用者明确了解面临的风险为何。

第三,企业资安严防,GPT服务如雨后春笋冒出,也成骇客瞄准攻击的对象,林大馗表示,今年稍早骇客就利用提示注入(Prompt Injection)攻击数家线上GPT服务,进而取得敏感资料如API金钥等,资安在AI时代更重要。

此外,林大馗也提及AI发展诸多不利影响,例如中国Deep fake深伪技术被大量使用,更容易取得民众信任来诈取金融资讯,另透过ChatGPT也可以让没有撰写程式经验的人,快速写出国家级复杂程度的恶意程式,因此立法有必要紧跟欧盟、美国的监管脚步。

责任编辑:玉珍

评论