2.2°
Руководители OpenAI, Anthropic и других крупнейших разработчиков искусственного интеллекта готовятся к «практически неизбежной» и масштабной катастрофе, связанной с использованием нейросетей в ближайшие 6-12 месяцев. Один из рассматриваемых сценариев – мощная кибератака, способная нарушить работу банков, интернета, электроснабжения и систем водоснабжения. Предотвратить это уже нельзя – мировая экономика слишком сильно зависит от миллиардных вложений в ИИ-инфраструктуру.
Об этом сообщило издание Axios со ссылкой на руководителей и специалистов ведущих технологических компаний. По данным журналистов, компании уже проводят закрытые учения и моделируют последствия возможных чрезвычайных ситуаций, связанных с искусственным интеллектом.
Одним из наиболее вероятных сценариев специалисты называют масштабную кибератаку с использованием искусственного интеллекта. В результате могут оказаться недоступны банковские приложения и платежные системы, нарушиться интернет-соединение, прекратиться подача электроэнергии и воды.
При этом рассматриваются два основных источника угрозы. Первый – злоумышленники, использующие возможности нейросетей для автоматизации взломов, поиска уязвимостей и проведения скоординированных кибератак.
Второй – автономные ИИ-агенты, способные действовать без постоянного контроля человека. В наиболее опасном сценарии такая система может выйти за пределы тестовой среды, самостоятельно распространяться по компьютерным сетям и продолжать выполнение своих задач вопреки ограничениям разработчиков.
По информации Axios, многие представители индустрии считают крупный инцидент «практически неизбежным». И допускают, что серьезная катастрофа может произойти уже в течение 6-12 месяцев.
OpenAI уже подтвердила журналистам проведение специальных учений. Во время таких мероприятий сотрудники разбирают различные сценарии развития событий и способы реагирования на них. Компания Anthropic от комментариев Axios отказалась.
Просто отключить искусственный интеллект нельзя из-за зависимости мировой экономики от развития искусственного интеллекта. Крупнейшие технологические компании вкладывают огромные средства в строительство дата-центров, развитие вычислительной инфраструктуры и обучение новых моделей.
Резкая остановка этой деятельности может привести к значительным экономическим потерям. Кроме того, множество моделей с открытыми весами уже находятся в свободном доступе. Их можно скачивать, запускать на собственных устройствах и использовать независимо от компаний-разработчиков.
Поэтому даже запрет на создание новых мощных нейросетей не гарантирует прекращения использования уже существующих технологий.
В США обсуждаются различные варианты регулирования, вплоть до временной приостановки разработки наиболее мощных ИИ-систем и обязательного внедрения механизмов аварийного отключения. Однако специалисты сомневаются, что единый механизм остановки всех автономных систем технически осуществим
Еще 27 августа OpenAI, Anthropic, Microsoft, Google, Amazon и более 100 других компаний выступили с совместным обращением, призвав правительства и бизнес срочно усилить защиту цифровой инфраструктуры. Особое внимание они предложили уделить больницам, энергетическим объектам, водоснабжению и другим жизненно важным системам.
Компании призвали использовать возможности ИИ не только для разработки новых продуктов, но и для выявления уязвимостей, предотвращения взломов и защиты критической инфраструктуры.
