中国工程院院士邬江兴：90%以上主流大模型不可信！实用前景堪忧
2024-05-20 21:48:12来源：快科技编辑：时寒峰
扫一扫
分享文章到微信
扫一扫
关注鹿财经网微信公众号
原标题：中国工程院院士邬江兴：90%以上主流大模型不可信！实用前景堪忧
5月20日消息，自从ChatGPT爆火以来，全球诞生了无数的大模型，光国内就有上百种，但实用性却并不如意。
在今天下午的2024搜狐科技年度论坛上，中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出，他们团队对当前最流行的10种大模型进行安全分析发现，90%以上的主流大模型是不可信的。
邬江兴表示，深度学习模型存在“三不可”基因缺陷。
分别是：
第一，不可解释性。
从数据提供AI模型训练到知识规律，到获得应用推理阶段，工作原理到现在不明确，问题发现定位非常困难，AI系统中的安全问题比破解密码还要难。
第二，不可判识性。
因为AI对序列性强依赖，不具备对内容的判识能力，所以数据存在质量差异，来源差异，就可能导致训练出的结果有差异。
第三，不可推论性。
AI的推理是从已知数据中获得规律性，难以胜任对中长期未来事物变迁的预测和推理，只是把现有的东西归纳起来，看起来它聪明无比，但仅仅是比我看得多，并没有产生什么新的认知。
投稿邮箱：lukejiwang@163.com 详情访问鹿财经网：http://www.lucaijing.com.cn
相关推荐
头条资讯
推荐资讯
