瑞莱智慧发布全新AI安全平台RealSafe3.0

(资料图片)

7月7日消息，2023世界人工智能大会上，清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布全新人工智能安全平台RealSafe3.0，该平台功能与OpenAI提出的“自动对齐研究员”类似，通过自动化的训练方法优化大模型。相较上一版本，RealSafe3.0新增了对通用大模型的评测，在评测维度上，它已覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度，且未来还会持续扩增测评维度的数量。