每天通过互联网上传的视频，图片和文本数据的数量不能被描述为“大量”，超过15亿，并且仍在以数量级增加。它过滤掉恐怖，暴力，色情等非法内容，以免污染或威胁网络空间。过去，使用人工审查。现在，人工智能（AI）已经开始起步。 21日，``2018年网络安全生态峰会''在北京举行。由中国互联网协会和阿里巴巴等组织的联合活动在北京开幕。 AI在促进网络内容安全方面的重要作用已成为本次峰会的热门话题之一。人工智能是必然的选择。可以说，面对海量互联网数据，必须选择使用人工智能来管理互联网数据。 “与AI技术相比，现有的人工审核方法在成本和效率上都处于明显的劣势。” “ AI技术增强了网络内容安全性保证研究报告”。由中国互联网协会在峰会上发布的报告（以下简称“报告”）表示。根据“报告”，人工智能在网络文本内容检测，文本分类技术，视频和图片内容识别以及语音内容检测中发挥了重要作用。例如，阿里巴巴开发的云盾内容安全系统可以基于深度学习技术，提供多媒体内容风险（例如文本，图片，视频等）的智能识别服务，有效减少涉及恐怖，暴力，色情和其他违法和不法行为的信息。非法信息。国家互联网应急响应中心高级工程师徐杰表示，传统的网络安全治理方法涉及手动建模和特征提取，即描述事物并形成特征向量。事物越复杂，特征向量就越呈指数增加。 “ AI技术，尤其是最近流行的深度学习技术，为我们解决这些问题提供了新的可能性。”徐洁说，由于深度学习技术不再需要手动描述事物的特征，而是直接关联事物，将图像或视频的图片或视频交给机器学习，机器就可以自己建立模型。阿里巴巴集团高级算法专家薛辉认为，除上述优势外，人工智能技术还提高了网络内容治理的可靠性。因为人工审查的经验因人而异，并且这种经验很难传递，但是AI技术更易于继承，无论是模型还是数据。需要更可靠。尽管AI在确保网络内容安全方面显示出各种优势，但作为一种新兴的技术手段，不可避免地仍然存在许多缺点。 “ AI本身有一些问题。例如，AI主要基于模型和算法，并且模型和算法本身是脆弱的。移动安全联盟秘书长杨正军表示，如果其模型和算法遭到攻击，它们将失败。此外，基于大量数据对AI进行了训练。如果数据被攻击者污染或获取，后果将是无法想象的。科大讯飞的技术专家李建峰认为，人工智能在网络内容治理中的最大挑战是需要提高人工智能的能力。例如，李建峰说，一些用户发送微博来表达他们的感受，其内容是“夜总会过去，而天永远会来。”这句话不能被反复发送，用户感到困惑。后来，一个朋友提醒他，这是因为一个“夜总会”出现了。出现在其中。 “现在我们使用AI技术，即使它是非常简单的技术，也很难100％正确。”李建峰解释说，因为当前的机器学习属于统计机器学习，包括深度学习，神经网络等都是基于概率论的，不能保证理论上的100％正确性。