首页 动态 > 内容页

360为什么要做大模型?周鸿祎:安全是底线,也是核心竞争力!不要一开始就把系统控制权交给大模型

时间 : 2023-08-11 12:15:53 来源:新浪财经


(资料图片仅供参考)

8月11日,AI大模型资本产业论坛暨第九届新浪财经上市公司年会在北京举行。吴晓求、田轩、周鸿祎、冯俊兰、武超则、余兴喜、胡锡进、赵伟、盛丰衍、于海宁等专家学者、企业掌舵者、金牌分析师、明星基金经理齐聚。深入探究人工智能赋能与发展、活跃资本市场、后市投资机会等热门议题。

360为什么要做大模型?360集团创始人周鸿祎表示,360是全球领先、中国第一的数字安全公司,积累了全球规模最大的安全大数据,拥有世界领先的发现国家级攻击的能力。在人工智能的安全问题上,360已经累计发现了主流AI框架漏洞超过200个,影响全球40亿终端。大模型出现后,我们发现主流厂商基本都存在“提示注入攻击”等新型安全问题,因此,我们一直主张只有躬身入局,自己做大模型,才能更好地研究大模型安全,为产业赋能。

360构建的大模型遵循安全、向善、可信、可控四个原则。其中,“安全”指的是网络安全、数据安全、算法安全,也是360核心要解决的方向;“向善”主要是指内容安全,不要让AIGC成为诈骗者的工具;“可信”是要切实解决大模型“幻觉”所造成的知识模糊和胡编乱造的问题,谁能解决幻觉问题,相当于摘下了“皇冠上的明珠”;最后是“可控”原则,我的观点是不要一开始就把系统控制权交给大模型,要确保人在决策回路,并且不能出现不可撤销的后果。

总之,安全是大模型发展的底线,也是未来大模型的核心竞争力。360作为全球领先的数字安全公司,将一如既往地关注人工智能的安全问题,为产业赋能。

现在送您60元福利红包,直接提现不套路~~~快来参与活动吧!新浪声明:新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
x