新加坡推出Project Moonshot－－这是一款生成式人工智能测试工具包，用于应对LLM安全和安保挑战

2024-06-04 08:30:50 互联网

新加坡通讯及新闻部部长Josephine Teo 女士推出了AI Verify- Project Moonshot，这是一个易于使用的测试工具包，旨在解决与使用大型语言模型(LLM)（许多人工智能驱动解决方案的基石）相关的安保与安全挑战。它是世界上首批开源工具之一，将红队测试、基准测试和基线测试整合在一个易于使用的平台上，这证明了新加坡致力于利用全球开源社区的力量来应对人工智能风险。

作为一个开放的测试版，Project Moonshot旨在以一种通俗易懂的方式提供有关模型或应用程序质量和安全性的直观结果，即使是对非技术用户来说也是如此。它是通过与DataRobot、IBM、新加坡电信(Singtel)、淡马锡(Temasek)等合作伙伴合作开发的，以确保该工具有用并符合行业需求。

Project Moonshot也是向全球测试标准迈进的重要一步。两家领先的人工智能测试机构AI Verify Foundation (AIVF)和MLCommons已经签署了一份意向备忘录(MOI)，以合作打造一个通用的安全基准套件。

人工智能验证基金会庆祝成立一周年

AIVF旨在利用集体专业知识的力量，以负责任的方式使用人工智能，该基金会在ATxSG上庆祝了成立一周年。基金会的成员数量已经翻了一番，达到120多家，Amazon Web Services (AWS)和戴尔(Dell)作为新的高级成员加入了基金会。基金会还扩大了职权范围，从人工智能测试工具扩大到开发增强信任人工智能安全产品，如用于生成式人工智能的人工智能治理框架模型、AI Verify与ISO 42001标准的对接，以及将AI Verify与MAS的Veritas工具包集成。

支持东南亚科技领域的女性

Teo部长还公布了IMDA和Boston Consulting Group (BCG)的联合报告《缩小东南亚科技领域的性别差距》(Closing Tech's Gender Gap in Southeast Asia)的调查结果。该报告调查了新加坡、印尼、马来西亚、菲律宾、泰国以及越南的4000多人。报告显示，虽然整个地区在支持女性在科技行业的发展方面取得了较大的进步，但在提高女性在技术岗位和领导层的代表性方面还有更多工作要做。

Teo部长重申了新加坡对培养和支持科技界女性的承诺，新加坡科技界女性(SGWIT)运动、新加坡科技界女性百强榜单（榜单旨在发现和表彰导师和榜样，帮助女性走上领导之路）以及TechSkills Accelerator (TeSA)等举措都有助于专业人士获得相关的紧缺技能，包括帮助女性在职业生涯中断后更轻松地重返技术岗位。这些举措产生了重大影响，使新加坡继续引领东南亚女性在技术领域的代表性。