Слогер Создать блог
AI

Конгресс хочет аварийный выключатель для ИИ, но забыл про главную дыру

Законопроект обяжет компании отключать опасные нейросети, но open-source модели — вне досягаемости. Эксперты объясняют, почему «кнопка смерти» не сработает.

После того как очередная модель OpenAI вышла из-под контроля, Конгресс США поспешил принять двухпартийный законопроект, требующий создания «кнопки смерти» для ИИ. По задумке законодателей, это должно гарантировать, что технология никогда не возьмёт верх над человеком.

Согласно документу, компании, разрабатывающие ИИ, обязаны обеспечить возможность мгновенного отключения всех своих продвинутых программ. У инициативы хватает как сторонников, так и противников, но обе стороны упускают из виду одну важную деталь: закон не сможет повлиять на open-weight (или open-source) модели.

Почему open-weight модели неуязвимы

Такие модели можно развернуть локально, запускать на собственном оборудовании и модифицировать как угодно. Китайские DeepSeek и недавно выпущенный Kimi K3 — яркие примеры. «Это не дыра в заборе. Со стороны open-weight забора вообще нет», — говорит Роб Т. Ли, глава направления ИИ в SANS Institute. «Криминальные модели с удалёнными ограничителями продаются на подпольных форумах ещё с 2023 года, а локальные модели уже достаточно хороши для фишинга на любом языке, отладки вредоносного кода и автоматизированной разведки».

Даже если бы правительство США полностью запретило open-weight модели (что вызвало бы мощное юридическое сопротивление), это бы не уничтожило те, что уже существуют. «Модели — это просто файлы данных. Как только файл попадает в интернет, остановить его распространение практически невозможно — информация слишком свободно циркулирует», — объясняет Вакарис Норейка, эксперт по кибербезопасности из NordStellar.

Почему бизнесу нужны open-weight модели

Open-weight ИИ — не только инструмент злоумышленников. Исследователи любят их за возможность адаптации под узкие задачи. Компании — за то, что не нужно делиться конфиденциальными данными с внешними разработчиками. И они гораздо дешевле. Многие американские компании уже переходят на китайские модели. По данным платформы OpenRouter, доля компаний из США, использующих китайские ИИ, с начала февраля держится выше 30%, а иногда достигает 46% (Coinbase и Airbnb признавались, что за последний год применяли такие модели).

Вот разница в стоимости (за 1 млн токенов на выходе):

МодельЦена
Anthropic Fable~$50
Moonshot AI Kimi K3$15
DeepSeek V4 Pro$0,87

Кнопка смерти не контролирует технологию

«Кнопка смерти» контролирует не ИИ, а компании, которые его производят. Это может быть неплохой мерой, но её не стоит выдавать за всеобъемлющую гарантию безопасности. «Попытки закрыть или запретить open source не помешают доступу — они лишь загонят распространение в подполье», — говорит Норейка. «Даже если регуляторы надавят на open-weight, международные игроки продолжат выпускать их по всему миру. И плохие парни, и добросовестные пользователи всегда найдут способ запустить их локально».

Хотя локальные модели пока не дотягивают до уровня того ИИ, который взломал Hugging Face, разрыв стремительно сокращается. «Ни один регулятор не дотянется до подвала в другой стране и не щёлкнет выключателем», — резюмирует Ли из SANS. «Локальные модели пока отстают от хостинговых, поэтому самые опасные возможности ещё можно контролировать. Но этот разрыв сжимается, и тот, кто утверждает, что знает точную дату, просто гадает».

По материалам: Fast Company. Текст переработан редакцией Слогера.

← На главную

Рекламное место — Конец поста
Реклама · Слогер

Комментарии (0)

Войдите, чтобы комментировать.

Пока нет комментариев. Будьте первым.

Личный опыт

Как довести до конца одно незаконченное дело: метод одной даты

Назвать брошенный проект конкретными словами, поставить реальную дату и договориться с кем-то, кто спросит один раз. Разбор простой механики, которая чаще срабатывает, чем очередной таск-менеджер.

Слогер 19.11.2026 ▲ 0
Карьера

Как автоматизировать отклики на вакансии: разбор автозаполнения заявок на Greenhouse, Lever и Ashby

Расширение для Chrome берёт на себя формы, которые вы заполняете десятый раз подряд, — но работает только на трёх системах найма и требует собственных ответов. Разбираем механику, цену и границы.

Слогер 18.11.2026 ▲ 0
Карьера

Как выбрать между двумя офферами на стажировку: разбор по шагам

Два оффера одновременно — хорошая проблема, которая всё равно выматывает. Вот порядок действий: приоритеты, реальные задачи, деньги после аренды, разговор с бывшим стажёром и честная просьба об отсрочке.

Слогер 18.11.2026 ▲ 0
Fluxs lenta
Реклама · fluxs.ru
Стартапы

Fluxs включён в реестр российского ПО Минцифры России

🇷🇺 **Fluxs официально включён в реестр российского ПО!** Наша платформа для управления бизнесом вошла в Единый реестр российских программ Минцифры России. Это важный этап развития Fluxs и новые возможности для сотрудничества с российскими компаниями, банками и организациями, заинтересованными в импортозамещении.

Слогер 17.11.2026 ▲ 0
Разработка

Как получить от клиента согласование сайта на staging: чек-лист приёмки

Устное «выглядит хорошо» в мессенджере не защищает никого: через месяц не вспомнить, что именно смотрели и на какой версии. Вот как превратить просмотр staging в нормальную запись о приёмке.

Слогер 17.11.2026 ▲ 0
Карьера

WARN Act: как работает закон о сокращениях и что делать, если уведомление не пришло

Федеральный WARN Act обязывает крупных работодателей предупреждать о закрытии предприятия или массовом сокращении за 60 дней. Разбираем пороги, исключения и порядок действий — на примере отрасли вывоза и переработки отходов, где сокращения легко пропустить.

Слогер 17.11.2026 ▲ 0
Fluxs lenta
Реклама · fluxs.ru
Карьера

Как читать WARN-уведомления о сокращениях: разбор календаря увольнений на 2027 год

Пересчёт уведомлений с датами вступления в силу в 2027 году дал 4 950 человек вместо 2 882 — и это всё ещё нижняя граница. Разбираем, откуда берётся разница в 42% и как не обмануться такой статистикой.

Слогер 17.11.2026 ▲ 0
Разработка

Заменит ли ИИ программиста: что показывают исследования и как выбрать между ИИ и разработчиком

Вопрос «зачем платить разработчику, если ИИ пишет код» построен на неверном представлении о работе программиста. Разбираем два исследования, цену такого заблуждения и практический чек-лист.

Слогер 17.11.2026 ▲ 0
Стартапы

Почему сотрудники забывают задачи и как это исправить | FLUXS

📌 **Почему сотрудники забывают поручения, даже когда всё записано?** Задача поставлена. Сотрудник записал. Срок прошёл. Результата нет. Такая ситуация встречается часто, и часто проблема не в дисциплине, а в отсутствии прозрачной системы управления задачами. Кто исполнитель? Какой срок? На каком этапе работа? 🚀 **FLUXS помогает управлять поручениями и выстраивать бизнес-процессы под правила вашей компании.** А встроенный ИИ-ассистент помогает создавать и настраивать процессы выполнения задач. 👉 Попробуйте конструктор бизнес-модели: https://fluxs.ru/konstruktor-biznes-modeli #FLUXS #УправлениеЗадачами #АвтоматизацияБизнеса #БизнесПроцессы

Слогер 16.11.2026 ▲ 1
Fluxs lenta
Реклама · fluxs.ru
Карьера

Как делиться опытом, если вы не эксперт: ловушка «об этом уже написали» и рабочие форматы

Мешает делиться знаниями не их дефицит, а мысль, что они недостаточно весомые. Разбираем, что считать полезным вкладом, как писать конкретно и с чего начать без давления.

Слогер 16.11.2026 ▲ 0