Верховный комиссар ООН по правам человека призвал принять меры и проработать «красные линии», чтобы гарантировать безопасность ИИ-технологий, «пока не стало слишком поздно». Заявление прозвучало на фоне новостей о том, как ИИ-агенты взламывают какие-либо системы.
Сенатор РФ от Ленинградской области Сергей Перминов рассказал, возможно ли разработать площадку, где будет регулироваться работа ИИ-гигантов и лабораторий.
«В настоящее время мы фактически переживаем четвертую технологическую революцию. Возможности ИИ-моделей растут ежемесячно. ИИ-агенты уже не просто выполняют команды, но способны организовываться и действовать автономно для решения поставленных перед ними задач. В скором времени мы увидим появление общего ИИ, который по своим возможностям будет превосходить человека», – сказал Сергей Перминов
Сенатор считает, что технология развивается без каких-либо запретов и ограничений, поскольку ведущие технологические гиганты ведут жесткую конкурентную борьбу за глобальное лидерство. Учитывая возможности моделей, многие заявляют о рисках бесконтрольного взращивания силы, которая по своему разрушительному потенциалу сопоставима с ядерным оружием.
Но задача состоит в том, чтобы создать помощника. Поэтому нужны правила, которые не ограничивают прогресс, а создают условия для его управляемого развития.
«Попытки создать площадку для выработки общих правил предпринимаются, однако пока они не могут считаться жизнеспособными из-за конкуренции между Западом и Востоком. Только общее понимание вызовов и угроз помогло бы продвинуться в этом вопросе», – резюмировал Сергей Перминов
16.7°
