Кибербезопасность: США приняли дорожную карту для ИИ
Самая мощная технология, но и самая опасная – так характеризуют ИИ в американском правительстве. В Америке всерьез обеспокоены массовым внедрением в различные сферы жизни искусственного интеллекта и опасностями, связанными с ним. Агентство кибербезопасности и безопасности инфраструктуры (CISA) опубликовало первую дорожную карту по искусственному интеллекту. Она касается не только для США, но и всего мира. Как собираются контролировать ИИ?
Об опасностях, которые таит искусственный интеллект для человечества, неоднократно заявляли даже его создатели. Илон Маск, Стив Возняк и другие потребовали поставить нейросети «на паузу».
Американское правительство опасается, что ИИ может быть использован для создания оружия массового уничтожения, он может стать угрозой для интеллектуальной собственности и так далее.
В прошлом месяце президент Байден издал указ о «безопасном, защищенном и заслуживающем доверия искусственном интеллекте». Это первая в своем роде попытка правительства США юридически регулировать всё, связанное с ИИ. Указ Байдена регламентирует обучение систем искусственного интеллекта (например, нейросетей) и требует, чтобы крупные компании отчитывались об испытаниях на безопасность правительству США до выпуска своих систем искусственного интеллекта. Подробнее можно прочитать в этой статье.
Специализированная структура – Агентство кибербезопасности и безопасности инфраструктуры CISA – обозначила пять стратегических направлений для безопасности использования ИИ, – говорится в официальном пресс-релизе Департамента внутренней безопасности.
«Искусственный интеллект имеет огромные перспективы в повышении кибербезопасности нашей страны, но, будучи самой мощной технологией в нашей жизни, он также представляет огромные риски», — сказала директор CISA Джен Истерли. «Наша дорожная карта развития ИИ, ориентированная на взаимосвязь ИИ, киберзащиты и критической инфраструктуры, представляет собой общеведомственный план по продвижению полезного использования ИИ для повышения возможностей кибербезопасности; обеспечить защиту систем искусственного интеллекта от киберугроз; и сдерживать злонамеренное использование возможностей искусственного интеллекта для угрозы критически важной инфраструктуре, на которую американцы полагаются каждый день».
Вот что собираются делать американские власти для того, чтобы контролировать ИИ:
1. Ответственно использовать ИИ.
CISA будет использовать программные инструменты с поддержкой искусственного интеллекта для усиления киберзащиты критически важной инфраструктуры в соответствии с Конституцией и законами.
2. Оценка и контролируемое внедрение систем искусственного интеллекта.
CISA готово оценивать безопасность и оказывать помощь в безопасном внедрении программного обеспечения на основе искусственного интеллекта в виде рекомендаций для федеральных гражданских правительственных учреждений; частных компаний; правительств штатов, местных и территориальных (SLTT) органов власти.
3. Защита критически важной инфраструктуры от злонамеренного использования ИИ.
CISA будет оценивать угрозы ИИ для критически важной инфраструктуры страны вместе с другими государственными учреждениями, которые разрабатывают, тестируют и оценивают инструменты ИИ.
4. Сотрудничество и обмен информацией об ИИ с межведомственными организациями, международными партнерами и общественностью.
Координация с международными партнерами для продвижения принципов глобальной безопасности ИИ и программного обеспечения на основе искусственного интеллекта.
5. Обучать сотрудников в области искусственного интеллекта.
Сотрудников CISA будут обучать программным системам и методам искусственного интеллекта, а также в Агентство будут нанимать стажеров, научных сотрудников с опытом работы в области искусственного интеллекта.
Изучить «Дорожную карту» искусственного интеллекта можно на сайте Агентства кибербезопасности и безопасности инфраструктуры.
