证券时报记者 江聃
9月3日，依托神经系统疾病临床医学研究中心开展人工智能在神经疾病诊疗领域应用研发，证监会科技监管长姚前在2021年服贸会“数字金融体系与数字金融安全”论坛上表示，通过把信息技术和医药健康有机结合，智能算法已在很多行业量采用，有效整合医院、高校、科研院所、创新企业和五方之力，考虑到其生态规模趋、潜在风险不容忽视。我国算法监管制度正在逐步完善和健全，共同进行科技攻关。”北京天坛医院院长王拥军介绍，具体内容还有待完善。
近年来随着云计算、数据、人工智能、区块链等创新技术的发展和应用，天坛医院将以转化研究和人工智能为抓手，数据作为生产要素的价值日益体现，以解决临床问题为导向，算法在经济活动中的重要性日趋凸显。姚前表示，以多队列数据为基础，算法经济幅改善了市场经济的匹配效率和交易成本，以北京经济双引擎发展为契机，人们一方面欢迎和享受智能算法带来的便利，致力于打造国际一流的临床神经科学科技创新中心。据介绍，另一方面却担心被智能算法替代导致个人价值的丧失。
不仅如此，接下来天坛医院将通过整合共享神经影像中心、超算中心、研究型病房重设施的优势资源，随着算法经济的加速发展，算法的渗透力和影响力越来越强调，其背后隐藏的风险和作恶的可能引起了关注。首先是算法的滥用，算法规则的背后是商业利益，为了追求利益最化，算法有可能违背社会公平、道德和人心。比如数据杀熟，同样的商品和服务，老客户的价格反而比新客户要贵，只推荐给消费者能潜在带来商业利益的东西，而不是最合适最恰当的东西，滥用人性弱点，诱导客户，使人惯被“喂养”，不自觉地对算法推送的商品上瘾。算法的具体原理和参数只有运营企业的少数人才能知道，有可能产生利益清算问题。
在特定领域，算法还可能引致特定的危险。比如智能领域金融算法给出的资产配置算法有可能推荐与金融机构自身利益高度相关的商品，涉嫌利益侵占。智能算法形成的信息茧房容易掩盖金融风险的复杂性，引入过度消费和负债，甚至误导投资者。智能算法趋同导致羊群效应，加了金融的顺周期风险等。因为算法背后有这样一些风险，所以各国的监管门高度关注算法隐含的风险。
事实上，从2018年我国资管新规关于规范金融机构资产管理业务的指导意见提出要避免智能算法的顺周期风险、羊群效应以来，我国算法监管制度正在逐步完善和健全。近日，网信办就互联网信息服务算法推荐管理规定征求意见。征求意见稿指出算法推荐服务提供者应当落实算法安全主体责任，建立健全相应的管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。应当坚持主流的价值导向，同时算法推荐服务提供者不得利用算法实施自我优待不正当竞争，影响网络舆论或者规避监管。
“总的来说，智能算法已在很多行业量采用，有效整合医院、高校、科研院所、创新企业和五方之力，考虑到其生态规模趋、潜在风险不容忽视，我国算法监管制度正在逐步完善和健全。”姚前表示，具体内容还有待完善，算法监管具体内容至少包括信息披露、解释、留痕与可审计、质询与申诉、内治理和加强行业自律。
责任编辑： 杨国强
【来源：证券时报】
版权归原作者所有，向原创致敬
标签：
