Забудьте про хакерів — Google AI сам розповідає таємниці розробників з їхніх Google Docs

Ім'я персонажа існувало рівно в одному місці — приватному Google-документі на диску розробника. Він не казав його нікому: ні гравцям, ні власній Discord-спільноті. Коли гравець запитав про це в Gemini, штучний інтелект Google, той назвав точну назву без вагань. «Я не маю жодного уявлення, звідки воно це знало», — каже соло-розробник.

Що сталося

Соло-розробник під ніком Klub Kofta Studio, автор водного тавер-дефенсу Operation Octo, поділився на Reddit тривожною історією взаємодії з гравцем у Discord. До допису додано скриншоти розмови, де гравець ставив Gemini, чат-боту Google, питання про майбутнє оновлення гри — і отримував, за словами розробника, «дивовижно приховану інформацію, якої не мало б бути доступно для такої маленької інді-гри, як моя».

Саме собою це ще не було б шоком. Але Gemini також розповідав про майбутній контент, почерпнутий, судячи з усього, із розмов на Discord-сервері гри. Це, за словами Klub Kofta, було вже «дуже вражаюче» — розробник сам ненавмисно розкрив майбутню істоту, яку неформально називали Tripod Fish, намалювавши її під час онлайн-гри Gartic Phone. Учасники Discord змогли за малюнком здогадатися, що ця істота з'явиться в грі, але точну офіційну назву ніхто й ніколи публічно не називав. Gemini все одно її знав.

Експеримент, який усе й підтвердив

Зацікавившись, сам розробник попросив того гравця напряму запитати штучний інтелект про майбутній контент гри. «З цікавості я втрутився і попросив гравця запитати в ШІ про майбутній контент моєї гри», — пояснює соло-девелопер. «Якимось чином штучний інтелект видав точну й надзвичайно специфічну назву персонажа "Vantage Tripod", яку я взагалі нікому й ніколи не називав».

За словами розробника, наскільки йому відомо, єдине місце в цифровому вигляді, де ця інформація взагалі існувала, — один із його власних документів у Google Docs. І це точно не він сам спілкувався з ШІ: гравець навіть ставив питання в режимі інкогніто.

«Лячно точна й дуже специфічна назва "Vantage Tripod" ніколи не була написана більше ніде, окрім мого власного Google-документа», — наполягає розробник.

Наскільки надійне джерело цієї історії

Варто одразу зробити застереження: це одна непідтверджена історія від однієї людини, і робити далекосяжні висновки на її основі передчасно.

Користувачі Reddit висували різні теорії. Дехто припускав, що Google автоматично вмикає користувачам дозвіл для Gemini сканувати файли Google Drive заради тренування моделі — але підтвердити це незалежно не вдалося. Інший користувач, назвавши історію «тривожною», запропонував альтернативу — можливо, ШІ проаналізувала збережені розмови учасників Discord-сервера. Але сам розробник наполягає: ім'я істоти ніколи не з'являлося ніде за межами його приватного Google Drive.

Розробник додає ще деталей: навіть учасники Discord-сервера ніколи не дізнавалися цієї конкретної назви. Він упевнений, що зберігав її в таємниці, а пошук за ключовим словом у Discord (це видно на скриншоті) підтверджує — це слово там ніколи раніше не згадувалося. Назва персонажа ще навіть не потрапила в жодні внутрішньоігрові дані гри, тож єдиним джерелом, яке спадає на думку, лишається саме той один документ Google Docs, де він тримав майбутні імена персонажів та їхні описи.

Чому це важливо не лише для інді-розробників

Якщо історія правдива, вона несе доволі тривожні наслідки для розуміння приватності в епоху штучного інтелекту. Йдеться не про злам чи витік бази даних, а про можливість того, що особисті, ніде не опубліковані документи можуть якимось чином потрапляти в дані, доступні мовній моделі.

Офіційного пояснення від Google щодо цього конкретного випадку немає, а сама історія лишається неперевіреною й спирається на слова однієї людини. Але навіть якщо це поодинокий випадок, він ставить цілком слушне питання: чи справді приватні документи в хмарних сервісах настільки приватні, як ми звикли думати, — особливо тепер, коли компанії масово вбудовують ШІ-асистентів у власні хмарні продукти.

Джерело: публікація Klub Kofta Studio на Reddit.