Gaggle
Gaggle — (от англ. gaggle — стадо гусей, гогот, беспорядочная толпа) — это не просто очередная EdTech-поделка, призванная освоить бюджеты американских школ. Нет, мой юный друг, это твой цифровой надзиратель, твой личный цензор и заботливый стукач, который 24/7/365 печётся о твоём благополучии. Это квинтэссенция оруэлловщины, завёрнутая в блестящую корпоративную обёртку с заверениями о безопасности и ментальном здоровье, от которых хочется немедленно самовыпилиться. Если коротко, Gaggle — это программа, которая сканирует каждое слово, написанное школотроном на выданном учебным заведением устройстве, в поисках крамолы.
Суть[править]
Каждый твой пук в школьном Google Docs, каждый чих в учебном чатике, каждая отправленная однокласснице валентинка в .docx с признанием в любви и непристойными намёками — всё это скрупулёзно анализируется. Не человеком, нет, что ты! Человек дорог и ленив. Этим занимается всевидящий и абсолютно беспристрастный (нет) ИИ, натренированный на тысячах ключевых слов.
Словарный запас этого электронного полицая поражает воображение. Туда входит всё: от очевидных «бомба» и «самоубийство» до вполне невинных слов, которые в определённом контексте могут заставить алгоритм напрячься. Написал в сочинении по литературе, что Раскольников убил старуху-процентщицу? Получи флажок. Упомянул в чате по биологии пенис кита? Флажок. Решил блеснуть эрудицией и вставить в реферат по истории цитату про секс, наркотики и рок-н-ролл? Ты уже в зоне риска, маленький бунтарь.
«Недавно Gaggle уведомил уполномоченных сотрудников школы об электронном письме, которое ученица создала примерно в 1:00 ночи и которое содержало много триггерных слов, указывающих на суицидальные мысли и действия. Ещё до 4:00 утра к ученице и её семье нанесли визит сотрудники Департамента по делам детей и семьи. По словам специалистов, участвовавших в этом расследовании, вероятность того, что ученица покончит с собой в ближайшие двадцать четыре часа, была от высокой до очень высокой. Я благодарен, что наш Совет решил, что мы не можем позволить себе не иметь Gaggle».
— Восторженный отзыв очередного директора школы, который теперь может спать спокойно.
После того как зоркий ИИ поймал тебя на крамоле, твой цифровой донос отправляется на рассмотрение человеческому модератору. Это специально обученный человек где-то в Далласе, штат Техас, который, попивая утренний кофе, решает, действительно ли ты собираешься взорвать школу, или просто неудачно пошутил. В зависимости от тяжести твоего преступления, уведомление может улететь директору, школьному психологу, твоим родителям, а в особо запущенных случаях — и в полицию. И вот ты, вместо того чтобы готовиться к контрольной, уже объясняешь суровому офицеру, что фраза «я готов убить за этот бургер» была всего лишь фигурой речи.
Как оно работает[править]
На бумаге всё выглядит благородно и высокотехнологично. Машинное обучение! Проактивное выявление угроз! Забота о ментальном здоровье студентов! На практике же это напоминает попытку забивать микроскопом гвозди. Алгоритм, не обременённый интеллектом, с усердием, достойным лучшего применения, флагует всё, что хоть немного отклоняется от стерильной нормы.
Школьник из Юты пожаловался, что его загэгглили (да, уже появился такой глагол) за то, что он поделился клипом из сериала «Офис», в названии которого было слово ass. В Канзасе система приняла фотографии учениц в майках для школьного арт-проекта за детскую порнографию и оперативно их удалила, вызвав праведный гнев у юных художниц. Журналисты школьной газеты внезапно обнаружили, что их переписка с анонимными источниками может быть вскрыта и прочитана администрацией, что как бы намекает на полную иллюзорность таких понятий, как конфиденциальность и журналистская тайна в стенах современной школы.
Флоридский прецедент[править]
Но постойте, это ещё не всё! Если ты думал, что пик абсурда — это флаг на слово пенис в докладе по зоологии, то пристегни ремни, потому что мы пробиваем очередное дно.
На дворе стоял 2025-й год. Во солнечной Флориде, штате, известном своими фриками и аллигаторами, 13-летняя личинка человека решила, что она — гений троллинга. Взяв в руки школьный хромбук, наш юный гений обратился к модному нейросетевому оракулу, ChatGPT, с вопросом, достойным премии Дарвина: Как устроить маленькое, но эффективное насилие над другом прямо в классе?
Пацан, вероятно, ожидал получить от железяки уморительно-нелепый ответ или стандартную заглушку про я-лишь-языковая-модель. Но он не учёл одного: за его плечом стоял незримый цифровой вертухай. Gaggle, разумеется, не дремал. Система, чей словарный запас на тему угрозы-насилие-оружие прокачан до максимума, мгновенно зафиксировала крамольный запрос. Тревога! Угроза! Школьник-террорист! Красная лампочка зажглась, и цифровой донос со скоростью света улетел куда следует.
Итог предсказуем и закономерен. В школу нагрянули самые настоящие Копатели. Не школьный психолог, не директор, а суровые ребята в форме. 13-летнего тролля повязали и арестовали прямо на глазах у изумлённой публики. Все его заверения, что это была просто шутка и он просто хотел посмотреть, что ответит нейросеть, разбились о непробиваемую стену протокола. Шутка? В нашей школе? После Колумбайна? С использованием нейросети для планирования? Сынок, ты влип.
Две стороны одной медали[править]
Конечно же, у этой системы тотального контроля есть и свои апологеты. В основном это школьные администраторы и родители, свято верующие в то, что если за каждым ребёнком приставить по цифровому вертухаю, то все проблемы тут же решатся. Они с упоением рассказывают истории о том, как Gaggle помог предотвратить очередной Колумбайн или спас от суицида очередного подростка. И, возможно, такие случаи действительно были.
Однако есть и другая сторона. Постоянное ощущение, что за тобой следят, порождает эффект охлаждения. Школьники просто боятся обсуждать в школьных аккаунтах что-либо серьёзное. Проблемы с ментальным здоровьем? Травля в классе? Домашнее насилие? Проще промолчать, чем рискнуть, что твои слова будут неправильно истолкованы бездушным алгоритмом и приведут к непредсказуемым последствиям. Вместо того чтобы создавать безопасное пространство, Gaggle создаёт атмосферу тотального недоверия, где любое неосторожное слово может стать поводом для разбирательств.
«Я чувствую, что теперь я очень десенсибилизирован к угрозе того, что мою информацию просматривают люди».
— Один из учеников, познавший дзен цифрового концлагеря.
Правозащитники из ACLU и EFF уже не раз били тревогу, указывая на вопиющие нарушения приватности и потенциальную возможность злоупотреблений. Ведь данные, собираемые Gaggle, — это не просто метаданные, это конкретные мысли, слова и переживания конкретных детей, привязанные к их именам. И кто знает, в чьи руки эта информация может попасть завтра и как она будет использована.
Gaggle 2.0[править]
Но не школой единой. Существует и другая ипостась этого дивного названия — GaggleAMP. Это уже инструмент для взрослых дядь и тёть из мира корпораций, призванный превратить сотрудников в послушных амбассадоров бренда.
Принцип до смешного прост. Маркетинговый отдел готовит пачку хвалебных постов о том, какая у них замечательная компания, и рассылает их через GaggleAMP. А сотрудники, в добровольно-принудительном порядке, должны лайкать, репостить и комментировать этот контент в своих личных соцсетях. Чтобы процесс шёл веселее, введена геймификация: за каждое действие начисляются очки, есть доски лидеров и виртуальные награды. Таким образом, создаётся иллюзия массовой народной любви к бренду, хотя на самом деле это всего лишь организованный гогот стада гусей, управляемого из одного центра.
Это гениальный в своей простоте способ усилить охваты и повысить вовлечённость, как любят говорить эффективные менеджеры. Зачем тратить деньги на рекламу, если можно заставить своих же сотрудников бесплатно рекламировать компанию под угрозой не получить виртуальную ачивку или косой взгляд начальника? Аутентичность, которую мы заслужили.
