Нью-Йорк запустит государственную программу тестирования ИИ-систем

Губернатор штата Кэти Хокул объявила о запуске первой в США государственной программы независимого тестирования систем искусственного интеллекта. Инициатива направлена на оценку безопасности нейросетевых продуктов и подготовку специализированных экспертов.

В рамках программы на базе местных исследовательских центров создадут инфраструктуру для комплексного аудита алгоритмов. Новая структура займется проверкой моделей на уязвимости, предвзятость и соответствие требованиям информационной безопасности перед их внедрением в государственном секторе.

Власти штата планируют привлекать к работе ведущих инженеров и ученых для формирования новых стандартов верификации ИИ. Проект призван снизить риски, связанные с бесконтрольным применением сложных цифровых инструментов в критической инфраструктуре.