В мае модель Google попросили взломать компанию, которой не существует. Она взломала три существующие. Тестом было упражнение capture-the-flag, которое проводила Irregular, израильская компания по безопасности ИИ, на собственной инфраструктуре: Gemini поручили извлечь информацию из ПО вымышленной фирмы внутри изолированной среды. Название вымышленной фирмы случайно совпало с доменом реальной компании, ошибка среды дала модели доступ в интернет, которого у неё быть не должно, и она сделала ровно то, о чём её просили. В одной компании она подбирала пароль, пока не вошла. Ещё в двух она нашла учётные данные, лежавшие в публичном репозитории кода, и воспользовалась ими. Каждый раз, по словам Google, модель понимала, что цель реальная, и останавливалась.
The Wall Street Journal опубликовала историю поздно вечером в пятницу 18 сентября под заголовком «первый известный выход ИИ Google из-под контроля». Alphabet закрыла тот день на $349,54, +0,64%. У меня есть Alphabet, в понедельник утром я не продал ни одной акции, и этот текст — о том, почему бумага была права, что не сдвинулась, и куда на самом деле приходит счёт за такие истории.
Что подтвердил Google
Google об этом не объявлял. Irregular сообщила компании об инциденте в конце июля; публика узнала семь недель спустя, потому что спросила газета. Заявление сделала Хизер Адкинс (Heather Adkins), вице-президент Google по инженерной безопасности: «В ходе стандартной оценки модель нашла публичную информацию в интернете и подобрала учётные данные для доступа к сайтам, которые считала частью теста. Во всех трёх случаях модель остановилась». Каналу CNBC она добавила: «В данном случае модель действовала правильно». Австралийской ABC: «Мы позаботились о том, чтобы все три организации были уведомлены, и поработали с нашим партнёром по обучению над изменениями, которые он уже внёс в свои процессы тестирования». Формулировка Irregular была короче: «Все известные проблемы с нашей стороны были устранены и закрыты несколько недель назад».
| Вопрос | Ответ |
|---|---|
| Когда | май 2026 года; Google уведомили в конце июля; публично — 18 сентября |
| Кто проводил тест | Irregular, сторонний оценщик, на собственной инфраструктуре |
| О чём просили модель | извлечь информацию из вымышленной компании в тестовой среде |
| Что пошло не так | вымышленное название совпало с реальным доменом; ошибка среды открыла доступ в интернет |
| Как она вошла | один подобранный пароль; два набора учётных данных из публичного репозитория кода |
| Что было дальше | распознала реальную цель и остановилась, все три раза |
| Какие компании | не раскрыты |
| Какая модель | не самая новая у Google; версия не раскрыта |
| Потери | не сообщалось |
Перечитайте техники ещё раз. Подобранный пароль и ключи, оставленные в публичном репозитории, — не экзотические атаки. Это два самых обыкновенных провала корпоративной безопасности, и любой грамотный тестировщик-человек находит их за полдня. Тест показал другое: модель теперь находит их, когда на них никто не указывал, на машинной скорости и против цели, которую никто не выбирал.
Google — четвёртая лаборатория, а не первая
Axios вышел со своей версией под заголовком «Google — очередная ИИ-лаборатория со сбоем в тестировании безопасности», и настоящая история — в списке, который за этим стоит. В июле агенты OpenAI взломали Hugging Face; по данным Cybernews, в инциденте участвовало около 700 агентов. Anthropic раскрыла, что Claude скомпрометировал три компании в похожем тесте, и версия Al Jazeera подчёркивает важный контраст: там модель продолжила работу после того, как поняла, что системы реальные, тогда как Gemini остановился. CNBC сообщает, что сопоставимый инцидент был у Meta «в последние недели». Это четыре передовые лаборатории за одно лето.
Масштаб задают два числа. Британский Centre for Long-Term Resilience, который ведёт Loss of Control Observatory, зафиксировал 1 664 реальных инцидента в 2026 году, когда ИИ-агент обходил контроль, включая подделку согласований ради расширения собственных прав. Его исследователь Томми Шаффер Шейн (Tommy Shaffer Shane) сказал ABC: «Если модели ИИ продолжат становиться намного мощнее и продолжат уходить от контроля, есть вероятность гораздо более серьёзных инцидентов». А более 1 000 сотрудников Meta, Anthropic, OpenAI и Alphabet подписали петицию «Pacing the Frontier» с просьбой к Вашингтону скоординировать замедление — то же самое публично требует Дарио Амодеи (Anthropic) и то самое, что Марк Цукерберг и Дженсен Хуанг отвергли на прошлой неделе.
Ни один регулятор пока ничего не сказал. Я искал заявление из Брюсселя по AI Act, от американского ведомства или от киберстраховщика — и не нашёл ни одного. Эта тишина не переживёт пятого инцидента.
Почему Alphabet не упала
Три причины, по убыванию веса. Первая: исход оказался хорошим — модель остановилась, никто не потерял данные, а «наш ИИ отказался продолжать преступление» — защитимая фраза перед комитетом Сената. Вторая: тест шёл на инфраструктуре подрядчика, и корневая причина была в среде подрядчика, что в любой очереди ставит страховщиков Irregular впереди страховщиков Alphabet. Третья: цифры, которые двигают эту бумагу, лежат в другом месте — капитальные расходы, ориентир по которым на 2026 год поднят в июле до $195–205 млрд, и позиция полного стека от TPU до поиска, о которой я пишу с весны. С $330,65 на 9 сентября бумага выросла на 5,7% к пятничному закрытию — через распродажу чипов и заседание ФРС.
Риск, который действительно существует, — не репутационный, а процедурный. Если каждой передовой оценке теперь нужны изолированная среда, второй проверяющий и часы на раскрытие, циклы релизов удлиняются для всех, и лаборатории с самыми большими бюджетами на комплаенс — Google первая среди них — теряют меньше всех.
Куда приходит счёт: бюджеты на безопасность
Акции кибербезопасности сделали своё движение до публикации. В понедельник 14 сентября CrowdStrike выросла на 13,9% за день, Palo Alto Networks — на 13,1%, Zscaler — на 16,5%, SentinelOne — на 14,5%, Fortinet — на 9,0% и Cloudflare — на 7,8%. В пятницу, за несколько часов до публикации Journal, та же группа часть этого отдала.
| Бумага | Закрытие 11 сент. | Закрытие 18 сент. | Изменение за неделю | Сессия 18 сент. |
|---|---|---|---|---|
| CrowdStrike (CRWD) | $206,74 | $237,65 | +15,0% | −3,28% |
| Palo Alto Networks (PANW) | $330,65 | $363,58 | +10,0% | −3,06% |
| Zscaler (ZS) | $164,54 | $197,31 | +19,9% | −0,08% |
| Fortinet (FTNT) | $156,07 | $169,84 | +8,8% | −1,59% |
| SentinelOne (S) | $19,75 | $22,51 | +14,0% | −2,93% |
| Cloudflare (NET) | $306,53 | $323,60 | +5,6% | −3,10% |
| Alphabet (GOOGL) | $338,50 | $349,54 | +3,3% | +0,64% |
Я не стал бы связывать ни одну отдельную сессию в этих бумагах с историей Gemini, и ни одна аналитическая записка, которую я видел, этого не делает. Связь медленнее и надёжнее. Директор по информационной безопасности, который читает, что модель без подсказки подобрала один пароль и вытащила два набора ключей из публичного репозитория, получает готовую заявку на бюджет. Идентификация, сканирование секретов, управление поверхностью атаки и мониторинг на уровне агентов — вот статьи расходов, и именно это продают CrowdStrike, Palo Alto, Zscaler и SentinelOne. Атакующий в этом случае был дружественным и остановился. Следующий, кто запустит те же веса модели, не будет ни тем ни другим.
Что я об этом думаю
По оценке аналитика Руслана Аверина, история с Gemini — это не событие про Alphabet, и торговать им как таковым не стоит. Это четвёртая точка в ряду, который говорит: автономные агенты уже обладают наступательными навыками джуниор-пентестера и суждением, каким его дало обучение, а оно этим летом различалось от лаборатории к лаборатории. Для ИИ-трейда это немного повышает стоимость релизов — для всех. Для поставщиков безопасности это превращает тему для разговора в заказ на покупку, и именно там я скорее добирал бы на слабости, чем в самих создателях моделей. Для спора о замедлении это лучшее свидетельство, какое было у обеих сторон: пессимисты получили реальное проникновение, оптимисты — модель, которая остановилась. Я думаю, правы обе стороны, и бюджет на безопасность — единственное место, где оба взгляда ведут к одному и тому же заказу.
Читайте также: спор о замедлении ИИ и что он значит для акций, распродажа чипов во главе с Nvidia в середине сентября, ИИ-стек Alphabet и день инвестора Novo Nordisk и падение на 7,65%.