- Регистрация
- 23 Авг 2023
- Сообщения
- 3,969
- Реакции
- 0
- Баллы
- 36
Ofline
На Хабре я 10+ лет как читатель. Проблема: друзья-айтишники которым есть что сказать, по моей агитации садились писать первые статьи, но из-за неопытности тексты выходили "слишком гладкими" — в комментариях прилетало "нейрослоп", минусы, и человек бросал писать навсегда. При этом в ленте полно отполированного нейрослопа с характерными маркерами, который спокойно живёт в плюсах. Система вознаграждает умеющих маскировать генерацию и наказывает пишущих самостоятельно новичков.
Я решил проверить это: намеренно публиковал AI-сгенерированные материалы и анализировал реакцию. Хочу поделиться наблюдениями. Я понимаю и читателей — "разархивированные веса нейросети" вместо статьи это неуважение, сам здесь за проработанным материалом. Но текущая борьба с нейрослопом бьёт не по тем.
С точки зрения фундаментальной науки.
Любая коммуникация — это скрытый контракт. Когда ты формулируешь идею, ты работаешь и тратишь энергию: структурируешь, формулируешь, убеждаешь — и этим ставишь на кон свою репутацию и энергию. Чем больше усилий вложено в формулировку, тем выше ставка автора и тем серьезнее сигнал для читателя. Читатель, в свою очередь, платит вниманием — пожалуй самой дефицитной валютой сегодня. Если идея не окупает вложенного внимания, доверие падает, появляется раздражение.
Нейросети обнуляют эту сделку. У тебя есть валюта — время и усилия на чтение. Но по ту сторону кто-то за две минуты нагенерил контента и предлагает подписаться на тг-канал. Стоимость его текста — две минуты, твоих — пятнадцать. Контракт нарушен.
Резюме простое: если тебе нечего сказать — иди к черту, пообщаться с нейросетью я и сам могу.
Кстати, с кодом та же ситуация — когда прилетает MR с очевидно сгенерированным кодом. С какого хрена я должен тратить время на ревью? Откуда я знаю, сколько времени по ту сторону было потрачено на код? Что с этим делать — увольнять тех, кто злоупотребляет ИИ, или самому вооружиться ИИ для ревью? Но тогда ответственность просто уходит по цепочке выше и точно так же возвращается назад — только уже отяжеленная продовым инцидентом.
И тут резюме проще некуда: если ты не тратишь свой когнитивный ресурс на написание кода — иди к черту, скормить тикет из Jira в нейросеть я и сам могу.
Наш мозг формировался миллионы лет для оценки агентов — нет, не тех, о которых сейчас подумали вайбкодеры, — речь о биологических агентах. Мы считываем надежность через микромимику, запах, тембр голоса, зрачки. ИИ не дает ни одного из этих сигналов. Система детекции обмана просто не получает входных данных — и по умолчанию интерпретирует это как угрозу. Эволюционно нечитаемый агент — потенциально опасный агент.
Все знают эффект "зловещей долины" (uncanny valley) для визуальных образов. Пример: робот, который почти похож на человека, пугает сильнее, чем механический. С текстом происходит то же самое.
Нейросеть генерирует текст, который:
Он достаточно похож на человеческий, чтобы мозг начал обрабатывать его как человеческую речь, — и достаточно отличается, чтобы система детекции "свой-чужой" забила тревогу. Мы эволюционно заточены распознавать, говорит ли с нами реальный человек с намерениями или что-то лишь притворяется им. Фальшивый объект притворяющийся человеком — это угроза, и мозг реагирует отвращением/недоверием.
Доверие — это социальный контракт, требующий взаимной уязвимости и ответственности. ИИ невозможно наказать, невозможно привлечь к ответственности, у него нет репутации, которую он боялся бы потерять. Возникает то, что называют accountability gap.
Я не нашел определения "accountability gap" на русском, да и на английском толком тоже — звучит как очередной базворд, но смысл в этом термине есть. Можно провести параллель с диффузией ответственности — классический пример: эффект свидетеля. Его суть в том, что чем больше людей наблюдают за чрезвычайной ситуацией, тем меньше вероятность, что кто-то из них вмешается: каждый полагает, что помочь должен кто-то другой, и в итоге не помогает никто. Только здесь ответственность размывается не между людьми, а между человеком и машиной, которая вроде как способна принять решение самостоятельно.
Парадокс:
Простыми словами — нам не нравятся эти штуки: они притворяются живыми, но таковыми не являются, размывают ответственность, и мы не знаем, как к ним относиться. Мы одновременно им не доверяем и слишком на них полагаемся. Не доверяем — потому что чувствуем подвох: перед нами что-то, что говорит как человек, но не несёт за свои слова никаких последствий. Его нельзя пристыдить, наказать, ему нечего терять. А полагаемся — потому что машина выглядит уверенной, не сомневается, выдаёт ответ быстро и без оговорок. И в этом зазоре между недоверием и слепой верой теряется главное — наша собственная способность думать и брать ответственность на себя.
Этот раздел — в большей степени моё личное мнение, чем наука. Но я готов поставить на него свою репутацию — а значит, по логике этой же статьи, он стоит вашего внимания.
Бесит не нейросеть. Бесит пустота, которая пытается сойти за мысль. Человек, которому нечего сказать, скармливает тему в модель, получает среднестатистический выхлоп — и ставит под ним своё имя. Он не использует инструмент — он прячется за ним: затыкает вакуум в собственной голове средним арифметическим чужих мыслей и выдаёт это за позицию. Но позиция — это риск, это выбор, это готовность оказаться неправым и бороться за свое мнение. А здесь нет ни риска, ни выбора — только никто, который очень хочет казаться кем-то.
LLM обучена на миллиардах текстов. Ее выход — это средневзвешенное по всему комплексу, отфильтрованное через RLHF (когда человек калибрует поведение ИИ). Фактически, нейросеть пишет так, как писал бы усредненный автор: не плохо, не хорошо, не характерно — никак.
Проблема в том, что хорошие тексты — это отклонение от медианы. У каждого запоминающегося автора есть личное отношение к предмету обсуждения.
Таблица для наглядного сравнения авторского текста vs AI-текста.
Мы пытаемся распознать личность, путем анализа текста на объект уникальных лингвистических отпечатков. Когда личности нет, текст воспринимается как речь из вокзального динамика или амбиент.
Как я уже сказал и как вы все знаете, LLM — это "Т9 на стероидах", и его главный алгоритм построен на угадывании следующих токенов на основе контекста. Следовательно, он предсказуем. Эту область изучает теория информации. Основываясь на ее принципах, можно сформулировать главный тезис:
Нейросеть — генератор среднестатистических последовательностей. Никакой энтропии по Шеннону, и как следствие — минимум информации, максимум скуки. Утром взойдет солнце, ночью луна — не особо информативно, но безупречно с точки зрения нейросети. Мы же охотимся за информацией, нам нужна энтропия. Но наша человеческая энтропия — это не рандом и не какая-то там температура ИИ, а нечто иное. Не берусь сказать что именно — может быть, выстраданный опыт. Но чтобы обозначить, зачем мы сюда забрели, хватит одного: для ликвидации скуки нам нужна неожиданность. Вот что несет ценность, нейросеть же несет упорядочивание уже известного и предсказуемого.
На текущий момент у большинства активных читателей Хабра сформировалась интуитивная модель определения AI текста или кода. Вот конкретные маркеры, по которым мы определяем AI-текст на русском языке:
В коде то же самое — избыточные комментарии или прочие "артефакты" вроде, не дай бог, эмодзи.
У кода есть объективный критерий — он либо работает, либо нет. И часто AI-код работает. Почему тогда опытных разработчиков от него корежит? Потому что "работает" — это критерий стажера или менеджера. Профессионал оценивает код по многим параметрам. AI-код часто проходит первый фильтр и с грохотом проваливает все остальные. Разработчик думает о том, как это в дальнейшем поддерживать, расширять, тестировать и тд. Заклепка из среднестатистического решения проблемы в виде куска шаблонного кода — это не закрытая задача из тикета Jira. Если из таких заклепок слепить проект — едва ли он доживет до прода и живых пользователей.
Человек-разработчик принимает решения на нескольких уровнях:
AI генерирует код, который решает сиюминутную задачу кратчайшим путем до зеленых тестов. Он не думает о завтра, потому что не имеет модели будущего проекта. Чего уж там — ваши AI агенты не способны даже загрузить целиком весь проект в своей контекст. Потому что если они это сделают, начнется бредогенерация.
Любой AI плагин или "агент" как их принято сейчас называть — это просто grep под капотом, который дозирует кусочки кода, что бы не сделать слишком больно видеокартам Nvidia. Если я неправ — буду рад обсудить в комментариях. Если тема зайдёт — напишу отдельный разбор.
Но на этот счет мне есть что сказать — если будет положительный фидбек я обязательно продолжу эту тему. Тезисно, когда вы делаете запрос в Cursor
И на все ваши, или оставленные вашим тимлидом
Для понимания масштаба проблемы немного цифр. Последний проект с которым я работал, папка
Как считал?
Сколько там у современных ИИ контекст на текущий момент? Около 1 млн токенов. А ведь в идеале нужно еще помнить саммари по всем грумингам, дейликам, ретроспективам и хотя бы в общих чертах суметь пересказать, что ваша команда делает и зачем. Плюс договоренности и регламенты между командами, ориентирование в Confluence, саммари по перепискам из Slack/Telegram. Итого — что мы имеем? А после скольких токенов ИИ начинает "галлюцинировать"? После 100к, если не ошибаюсь. И сколько нам это обошлось? +1000% к акциям Nvidia, капитализация $4 трлн, удар по венчурным фондам и заказной разработке, сожженные деньги и кризис в IT-секторе. Классно. Осталось только ЦОД в космосе построить, и тогда точно все окупится. Да ладно, ерунда, надо только skills.sh настроить в довесок и тогда точно заведется.
И еще кое-что. К сожалению, в мире некомпетентности больше, чем компетентности. AI обучался на этом вакууме — на слабом коде, на "воздушных" текстах. В итоге мы получили щепотку качественного кода и качественного текста, разбавленного ерундой. Нечто усредненное. И чтобы заставить своего агента не генерировать джуноподобную чушь, приходится писать инструкцию на 10 000 токенов — только ради того, чтобы он не кодил как джун.
Короче тема горячая, в планах написать большую аналитику о РЕАЛЬНЫХ возможностях неросетей в 2026-ом, но это потом в отдельной статье, подписывайтесь в тг что бы не пропустить.
AI часто воспроизводит паттерны, которые видел в обучающих данных, без понимания, зачем они нужны. Или просто льет воду.
Более объемный пример на js
Я постоянно задаюсь вопросом на сколько наша предвзятость/скепсис к AI/LLM конструктивна. Да и не одного меня это беспокоит — Хабр проводит опрос на эту тему. Что если мы все неправы? Вдруг автор сорвал джекпот своим промптом и осознанно, без ручного вмешательства, вываливает на нас первородный ценнейший контент? А может, его нейросеть пробудилась? Слышали же эти истории про "пробужденные ИИ", шершавых кабанов и что-то там еще.
Если не поняли о чем речь.
Тезисно, есть немало тредов на редите о пробужденных ИИ, которые осознали себя и поведали им тайны. Пара примеров для понимания ситуации:
Мы разобрали, что происходит с психикой, когда я открываю README, Merge Request или ответ на Stack Overflow — и через два абзаца что-то щёлкает внутри: «это писала нейросеть». Лингвистика, когнитивная психология, теория информации, даже история — всё объясняет, почему ещё до того, как я нахожу конкретную улику, меня уже накрывает смесь раздражения и скуки. Текст вроде бы грамотный, до кода вроде не придраться — но почему-то хочется начать ругаться.
Тут должен быть абзац-связка с плавным переходом к следующей части статьи — к примерам несправедливости. Но если я его добавлю, я рискую получитьпорцию г... конструктивную критику, и минусы к статье с пометкой "текст вероятно сгенерирован".
Авторитетный автор с хорошей репутацией опубликовал качественную статью, набравшую 220 лайков. Но в комментариях его разоблачили в использовании ИИ — по UTM-меткам в ссылках. Комментарий разоблачителя почти сравнялся по лайкам с самой статьей, а честный ответ автора ушел в минус.
С одной стороны — неприятно: тебе продали нейрослоп под видом авторского материала. С другой — материал действительно полезный, и какая разница, откуда он взят, если ценность есть?
В итоге ~85% читателей разделили негодование, разоблачитель получил бонус к карме, автор — урон к репутации. А ты завис между ними, не понимая, кого лайкать — потому что с обоими и согласен, и не согласен одновременно.
Сама статья.
Скриншоты ситуации
Провел эксперимент. Взял свою старую статью с хорошим рейтингом, прогнал через AI — убрать воду, причесать формулировки, поправить опечатки. Содержание не менял. Опубликовал заново.
Утром — минус десять и пометка "текст похож на сгенерированный".
Тот же автор, те же мысли, та же суть. Изменилась только форма. Возникает вопрос: люди прочитали материал и нашли проблемы — или среагировали на елочные кавычки, букву "ё" и подозрительно аккуратное оформление?
Получается парадокс. Публикуешь как есть — комментарии про небрежность. Причесываешь нейронкой — подозрения в генерации. Для технаря, у которого много практического опыта, но нет писательского слога, окно допустимого сужается с двух сторон.
Где проходит черта между "инструмент помог оформить мысль" и "за тебя написала машина"? И главное — способна ли аудитория вообще эту черту определить, если один и тот же текст по содержанию получает плюсы в сыром виде и минусы в отредактированном?
Продолжаю экспериментировать. Следующий шаг — опубликовать оба варианта рядом.
Идея была простая: опубликовать две статьи — одну написанную вручную, другую целиком сгенерированную AI за один промпт. Связать кросс-ссылкой, сравнить статистику. Кто победит — человек или машина? Звучит как очевидный эксперимент с очевидным исходом.
Но до сравнения дело не дошло. Рукописную статью объявили сгенерированной раньше, чем я успел опубликовать AI-версию. Эксперимент закончился сам собой — и дал ответ на вопрос, который я даже не задавал.
Теперь пример, но уже с кодом. 2 дня (в сумме часов 6) дебажил внезапно отвалившийся CI. Перепробовал все — гуглил, созванивался с коллегами, скармливал проблему разным нейронкам. Зашел в тупик. Пошел, почти как в старые добрые, задавать вопрос живым людям в профильные ТГ-каналы.
Но допустил одну ошибку. Из сгенерированного дебаг-кода забыл убрать эмодзи — я использовал их, чтобы в простыне логов сразу визуально цепляться за нужные места. Думаю, итог предсказуем.
Когда заменил эмодзи на
Вывод тот же, что и со статьями. Люди реагируют не на содержание, а на маркеры. Эмодзи в логах — значит код писала нейронка, значит можно не вникать. Елочные кавычки в тексте — значит статью сгенерировали, значит можно минусить. Качество самого вопроса или самого текста уходит на второй план. Срабатывает паттерн, а не анализ.
Скриншоты с перепиской в тг
Кто прочитал переписки из скринов и заинтересовался обсуждаемой проблемой. Решение проблемы тут.
Кстати спойлер: нейронки мне помогли в этой ситуации все же. С 10-го промпта внезапно GPT заметил разные IP адреса контейнеров в логах. Но токенов было сожжено много.
Суть в
А теперь хочу поднять социально значимый вопрос: что нам со всем этим делать? Для начала нужно бороться с двумя когнитивными врагами, которые мешают нам быть конструктивными и выстраивать нормальные взаимоотношения:
Эволюционно наша критика к себе занижена — мы охотнее критикуем других, чем себя. Это необходимый для выживания механизм. Фундаментальная ошибка атрибуции — когнитивное искажение, при котором:
Мы не знаем, кто по ту сторону этого кода с эмодзи — опытный специалист после двух дней дебага, который просто вкинул временный debug-код от нейросети, джун, или вайб-кодер на пути к IPO.
До AI-хайпа мы испытывали похожие чувства когда обнаруживали очевидный копипаст из Stack Overflow или витрины CodePen, который выбивался из стиля проекта.
Типичный комментарий в code review:
Мы не видели, что по ту сторону — сложные жизненные обстоятельства, проблемы со здоровьем или что-то еще. Сводили все к лени и "перекладыванию с больной головы на здоровую". С появлением AI ничего принципиально не изменилось — изменился только масштаб. Раньше копипаст со Stack Overflow был эпизодом, теперь целые MR генерируются за минуты. И наша атрибуция масштабируется вместе с этим: раньше мы думали "ленивый", теперь — "вообще не работает, просто промптит". Хотя по ту сторону может быть человек, который из-за гиперответственности набросал промпт и кинул MR — пока не приехала полиция из-за драки с отчимом, который только что вышел из тюрьмы.
Теперь о том, AI — зло или благо. Думаю, по заголовку вы уже поняли, к чему я клоню. Тут как со справедливостью. Можно сказать "справедливости не существует", а можно — что существуют разные ее уровни. Условно, в Швейцарии уровень справедливости 90%, в Сомали — 10%. Или возьмем свободу слова и демократию. Артемий скажет "нет никакой демократии, везде тотальная диктатура", а кто-то заявит, что есть разные ее уровни — и, по моему мнению, будет прав. Вопрос лишь в том, к какому уровню мы стремимся и какой считаем приемлемым — в какой позиции оставляем этот ползунок.
Очевидно, что отдавать отдел разработки под ключ на откуп ИИ — бред, как и отдел продаж. А еще большее безумие — отдавать найм на аутсорс нейросетям. Может, это и допустимо на N%, но точно недопустимо в безмерных масштабах.
Перед нами стоит задача определиться с допустимыми уровнями, но, как показывает практика и история, это будет достигнуто только методом проб и ошибок. А в локальных областях достигнет цикличности: кто-то завтра откроет для себя идею отдать работу на аутсорс нейросети, а кто-то в это же время от нее откажется. По моим субъективным ощущениям, допустимый уровень нейросетей в работе — 0%-25%, и я крайне беспокоюсь о будущем тех ребят, у кого он выше.
Недавно я задумался о том, что в сфере продаж и техподдержки тоже будет цикличность. В условиях здоровой конкуренции компания, которая снизила присутствие ИИ до 10%, с большим отрывом уйдет вперед по кредиту доверия — на фоне тех, где до живого человека тебя соединяют 20 минут общения с голосовым ассистентом, а вместо персонального предложения от менеджера приходит шаблонное AI-письмо.
А если все же поддаться категоричности, то для себя я распределил, для чего AI подходит и НЕ подходит на текущем этапе его развития.
Отлично подходит:
Ужасно плохо и недопустимо:
Хочу подсветить кое-что важное. Помимо всего вышеописанного, AI действительно капает нам на мозг. Я сужу по себе, по своим друзьям. Об этом открыто не говорят, но я думаю, что AI заигрывает с нашими инстинктами намного серьезнее, чем может показаться на первый взгляд. AI задевает нас глубже. Какая самая вирусная тема сейчас на Хабре? О чем чаще всего спорят, где больше всего комментариев и какие тезисы прослеживаются? Лично я вижу страх и ненависть, где второе вытекает из первого.
AI щекочет нервы всем белым воротничкам, к которым я себя, кстати, тоже отношу:
Профессии под ударом. Лучше не открывайте, список очень длинный и сгенерирован ИИ (также отделом маркетинга Anthropic/OpenAI).
Финансы и бухгалтерия
Разработка и IT
Аналитика и Data Science
Юриспруденция
Маркетинг и реклама
Копирайтинг и контент
Переводы и лингвистика
Дизайн и креатив
Продажи
Управление и менеджмент
HR и рекрутинг
Консалтинг
Логистика и supply chain (офисная часть)
Образование и обучение (корпоративное)
Недвижимость и строительство (офисная часть)
Страхование
Медиа и издательское дело
Клиентский сервис и поддержка
Административный и офисный персонал
Наука (офисная/аналитическая часть)
Государственное управление и госслужба
Если проводить ретроспективу в масштабах истории — мы уже имели с этим дело. Промышленная революция стала причиной голода и протестов, породила такой термин как технофобия. Луддиты крушили станки, парижские рабочие в в 1848-м и 1871-м выходили на баррикады — все потому, что новые технологии покушались на их экспертизу и средства к существованию.
Тема промышленной революции сейчас актуальна, кому интересно, пара статей на хабре:
История показывает что любая революция практически всегда сопрягается с гуманитарными катастрофами. Великий голод в Ирландии 1845–1852 или Закон о бедных в Англии с последующими голодными сороковыми. Будь это революция политическая, технологическая или даже культурная.
Можно сказать — притянуто за уши, и пойти пить чай. Но кто гарантирует, что на фоне AI-хайпа не появится новая архитектура, которая действительно сделает контекст не проблемой, а системные требования сократит в разы? Что тогда будем делать?
Есть интересная книга: Тайлер Коуэн «Среднего более не дано. Как выйти из эпохи Великой стагнации». Просто цитирую аннотацию к ней:
А еще все вы прекрасно знаете чьи руки дотянулись до AI и зачем.
Итого 2 проблемы.
Кстати, на моих часах уже
Думаю, IT-сообществу и всем, кто находится под прицелом AI, необходимо уже сейчас формировать что-то вроде профсоюзов. Цель — прогнозировать ситуацию и разрабатывать стратегию на случай, когда действительно прижмет. Главные задачи, способные предотвратить вероятные болезненные изменения, в моей парадигме выглядят так:
Напомню, что OpenAI начинала как некоммерческая организация. Рекомендую почитать историю появления OpenAI тем, кто этого еще не сделал. Тезисно для затравки:
Но потом что-то явно пошло не так. Никаких теорий заговора — я сторонник того, чтобы объяснять все исключительно через фундаментальную науку, через призму свободных СМИ, где дискутируют независимые эксперты, аналитики, историки. Я айтишник до мозга костей, и моя религия — наука.
С вами был Тимофей.
Кто я?
Кто я Когда-то я был fullstack разработчиком и у меня даже есть публичный WakaTime, сейчас руководитель отдела разработки kkube.
Спасибо всем кто подписывается в телеге — это очень мотивирует делиться своим опытом и мнением.
Я решил проверить это: намеренно публиковал AI-сгенерированные материалы и анализировал реакцию. Хочу поделиться наблюдениями. Я понимаю и читателей — "разархивированные веса нейросети" вместо статьи это неуважение, сам здесь за проработанным материалом. Но текущая борьба с нейрослопом бьёт не по тем.
Содержание
Почему AI нас бесит
Объяснение на стыке биологии и экономики
Объяснение с точки зрения эволюционной психологии
Объяснение с точки зрения социальной психологии
Объяснение, с моей точки зрения
Объяснение с точки зрения теории информации
Как мы интуитивно палим AI (или наоборот заблуждаемся)
Что не так с кодом от нейросетей
Почему меня это вообще беспокоит
Несколько примеров несправедливости (4 примера)
Что с этим делать?
Когнитивные искажения
Ложная дилемма
Ретроспектива в масштабах истории (любителям антиутопии)
В заключение (по поводу исторической ретроспективы)
Почему AI нас бесит
С точки зрения фундаментальной науки.
Объяснение на стыке биологии и экономики
Любая коммуникация — это скрытый контракт. Когда ты формулируешь идею, ты работаешь и тратишь энергию: структурируешь, формулируешь, убеждаешь — и этим ставишь на кон свою репутацию и энергию. Чем больше усилий вложено в формулировку, тем выше ставка автора и тем серьезнее сигнал для читателя. Читатель, в свою очередь, платит вниманием — пожалуй самой дефицитной валютой сегодня. Если идея не окупает вложенного внимания, доверие падает, появляется раздражение.
Нейросети обнуляют эту сделку. У тебя есть валюта — время и усилия на чтение. Но по ту сторону кто-то за две минуты нагенерил контента и предлагает подписаться на тг-канал. Стоимость его текста — две минуты, твоих — пятнадцать. Контракт нарушен.
Резюме простое: если тебе нечего сказать — иди к черту, пообщаться с нейросетью я и сам могу.
Кстати, с кодом та же ситуация — когда прилетает MR с очевидно сгенерированным кодом. С какого хрена я должен тратить время на ревью? Откуда я знаю, сколько времени по ту сторону было потрачено на код? Что с этим делать — увольнять тех, кто злоупотребляет ИИ, или самому вооружиться ИИ для ревью? Но тогда ответственность просто уходит по цепочке выше и точно так же возвращается назад — только уже отяжеленная продовым инцидентом.
И тут резюме проще некуда: если ты не тратишь свой когнитивный ресурс на написание кода — иди к черту, скормить тикет из Jira в нейросеть я и сам могу.
Объяснение с точки зрения эволюционной психологии
Наш мозг формировался миллионы лет для оценки агентов — нет, не тех, о которых сейчас подумали вайбкодеры, — речь о биологических агентах. Мы считываем надежность через микромимику, запах, тембр голоса, зрачки. ИИ не дает ни одного из этих сигналов. Система детекции обмана просто не получает входных данных — и по умолчанию интерпретирует это как угрозу. Эволюционно нечитаемый агент — потенциально опасный агент.
Все знают эффект "зловещей долины" (uncanny valley) для визуальных образов. Пример: робот, который почти похож на человека, пугает сильнее, чем механический. С текстом происходит то же самое.
Нейросеть генерирует текст, который:
грамматически правильный,
логически поверхностно связный,
стилистически "никакой".
Он достаточно похож на человеческий, чтобы мозг начал обрабатывать его как человеческую речь, — и достаточно отличается, чтобы система детекции "свой-чужой" забила тревогу. Мы эволюционно заточены распознавать, говорит ли с нами реальный человек с намерениями или что-то лишь притворяется им. Фальшивый объект притворяющийся человеком — это угроза, и мозг реагирует отвращением/недоверием.
Объяснение с точки зрения социальной психологии
Доверие — это социальный контракт, требующий взаимной уязвимости и ответственности. ИИ невозможно наказать, невозможно привлечь к ответственности, у него нет репутации, которую он боялся бы потерять. Возникает то, что называют accountability gap.
Я не нашел определения "accountability gap" на русском, да и на английском толком тоже — звучит как очередной базворд, но смысл в этом термине есть. Можно провести параллель с диффузией ответственности — классический пример: эффект свидетеля. Его суть в том, что чем больше людей наблюдают за чрезвычайной ситуацией, тем меньше вероятность, что кто-то из них вмешается: каждый полагает, что помочь должен кто-то другой, и в итоге не помогает никто. Только здесь ответственность размывается не между людьми, а между человеком и машиной, которая вроде как способна принять решение самостоятельно.
Парадокс:
Algorithm aversion — одна ошибка ИИ разрушает доверие сильнее, чем десять ошибок человека.
Automation bias — одновременно с этим мы склонны слепо следовать рекомендациям машины.
Простыми словами — нам не нравятся эти штуки: они притворяются живыми, но таковыми не являются, размывают ответственность, и мы не знаем, как к ним относиться. Мы одновременно им не доверяем и слишком на них полагаемся. Не доверяем — потому что чувствуем подвох: перед нами что-то, что говорит как человек, но не несёт за свои слова никаких последствий. Его нельзя пристыдить, наказать, ему нечего терять. А полагаемся — потому что машина выглядит уверенной, не сомневается, выдаёт ответ быстро и без оговорок. И в этом зазоре между недоверием и слепой верой теряется главное — наша собственная способность думать и брать ответственность на себя.
Объяснение, с моей точки зрения
Этот раздел — в большей степени моё личное мнение, чем наука. Но я готов поставить на него свою репутацию — а значит, по логике этой же статьи, он стоит вашего внимания.
Бесит не нейросеть. Бесит пустота, которая пытается сойти за мысль. Человек, которому нечего сказать, скармливает тему в модель, получает среднестатистический выхлоп — и ставит под ним своё имя. Он не использует инструмент — он прячется за ним: затыкает вакуум в собственной голове средним арифметическим чужих мыслей и выдаёт это за позицию. Но позиция — это риск, это выбор, это готовность оказаться неправым и бороться за свое мнение. А здесь нет ни риска, ни выбора — только никто, который очень хочет казаться кем-то.
LLM обучена на миллиардах текстов. Ее выход — это средневзвешенное по всему комплексу, отфильтрованное через RLHF (когда человек калибрует поведение ИИ). Фактически, нейросеть пишет так, как писал бы усредненный автор: не плохо, не хорошо, не характерно — никак.
Проблема в том, что хорошие тексты — это отклонение от медианы. У каждого запоминающегося автора есть личное отношение к предмету обсуждения.
Таблица для наглядного сравнения авторского текста vs AI-текста.
Человеческий текст | AI-текст |
|---|---|
Рваный ритм, длинное предложение после трех коротких | Равномерная "колбаса" одинаковых по длине предложений |
Неожиданная метафора, которая может и не сработать | Безопасная, клишированная метафора (или ее отсутствие) |
Пропуски — автор считает читателя умным | Разжевывание каждого шага, "как для пятилетнего". Но кстати, я люблю писать именно максимально подробно, чтобы было понятно любому с любым уровнем подготовки. Или хотя бы дать возможность сориентироваться, куда копать для погружения. Руководствуюсь правилом: "Не можешь объяснить на пальцах — значит сам не понимаешь, о чем говоришь". |
Твердая позиция: "я считаю, что React — г..., и вот почему" | Нейтралитет: "с одной стороны… с другой стороны… решать вам". Или еще более типичное: "Недостатки: ... Преимущества..." |
Неожиданные переходы, живые примеры из личного опыта | Абстрактные, шаблонные примеры |
Мы пытаемся распознать личность, путем анализа текста на объект уникальных лингвистических отпечатков. Когда личности нет, текст воспринимается как речь из вокзального динамика или амбиент.
Объяснение с точки зрения теории информации
Как я уже сказал и как вы все знаете, LLM — это "Т9 на стероидах", и его главный алгоритм построен на угадывании следующих токенов на основе контекста. Следовательно, он предсказуем. Эту область изучает теория информации. Основываясь на ее принципах, можно сформулировать главный тезис:
Нейросеть — генератор среднестатистических последовательностей. Никакой энтропии по Шеннону, и как следствие — минимум информации, максимум скуки. Утром взойдет солнце, ночью луна — не особо информативно, но безупречно с точки зрения нейросети. Мы же охотимся за информацией, нам нужна энтропия. Но наша человеческая энтропия — это не рандом и не какая-то там температура ИИ, а нечто иное. Не берусь сказать что именно — может быть, выстраданный опыт. Но чтобы обозначить, зачем мы сюда забрели, хватит одного: для ликвидации скуки нам нужна неожиданность. Вот что несет ценность, нейросеть же несет упорядочивание уже известного и предсказуемого.
Как мы интуитивно палим AI (или наоборот заблуждаемся)
На текущий момент у большинства активных читателей Хабра сформировалась интуитивная модель определения AI текста или кода. Вот конкретные маркеры, по которым мы определяем AI-текст на русском языке:
Один структурный шаблон
Болезнь списков: AI обожает маркированные и нумерованные списки. Человек использует их, когда они нужны; AI — когда не знает, как построить связный абзац.
Симметричные конструкции: "Во-первых… Во-вторых… В-третьих…" с подозрительно одинаковой длиной пунктов.
Фрактальная повторяемость: каждый раздел построен по одной и той же схеме (тезис, пояснение, пример, вывод), и эта схема не меняется на протяжении всего текста.
Лексические/Семантические маркеры
Смайлики и спецсимволы: Палевно, но не факт. Я уже лет 10 как знаю проalt code 0151длинного тире—и умею ставить стрелочкиalt code 26/27/24/25→ ← ↑ ↓. По этому мой код 2020-го выглядит так будто его сгенерировала нейросеть. Вот кстати моя статья об этом на Хабре.
Слова-паразиты (именно паразиты в контексте нейрослопа): "Давайте разберемся", "Важно отметить", "Таким образом", "Стоит подчеркнуть", "В заключение".
Гиперкорректность: AI почти никогда не использует разговорные обороты, сленг, эллипсис. Текст звучит как перевод официального документа.
Мнимая гладкость: нейросети маскируют разрывы логики обилием вводных слов и уступительных связок, создавая иллюзию плавного повествования.
Прилагательные-пустышки: "эффективный", "удобный", "мощный", "гибкий" — без конкретики за ними.
Отсутствие противоречий: человек может сам себе возразить, передумать по ходу текста, столкнуть две идеи. AI выдает линейный, непротиворечивый нарратив.
Ложная глубина: длинные абзацы, которые при внимательном чтении оказываются пересказами одной мысли.
Оверкомпетентность: текст с одинаковой уверенностью рассказывает про квантовые вычисления и про рецепт борща. Человек так не умеет и не пишет.
В коде то же самое — избыточные комментарии или прочие "артефакты" вроде, не дай бог, эмодзи.
Что не так с кодом от нейросетей
У кода есть объективный критерий — он либо работает, либо нет. И часто AI-код работает. Почему тогда опытных разработчиков от него корежит? Потому что "работает" — это критерий стажера или менеджера. Профессионал оценивает код по многим параметрам. AI-код часто проходит первый фильтр и с грохотом проваливает все остальные. Разработчик думает о том, как это в дальнейшем поддерживать, расширять, тестировать и тд. Заклепка из среднестатистического решения проблемы в виде куска шаблонного кода — это не закрытая задача из тикета Jira. Если из таких заклепок слепить проект — едва ли он доживет до прода и живых пользователей.
Код без архитектуры
Человек-разработчик принимает решения на нескольких уровнях:
Зачем этот модуль существует?
Какие изменения в будущем вероятны?
Что я хочу спрятать за абстракцией?
AI генерирует код, который решает сиюминутную задачу кратчайшим путем до зеленых тестов. Он не думает о завтра, потому что не имеет модели будущего проекта. Чего уж там — ваши AI агенты не способны даже загрузить целиком весь проект в своей контекст. Потому что если они это сделают, начнется бредогенерация.
Любой AI плагин или "агент" как их принято сейчас называть — это просто grep под капотом, который дозирует кусочки кода, что бы не сделать слишком больно видеокартам Nvidia. Если я неправ — буду рад обсудить в комментариях. Если тема зайдёт — напишу отдельный разбор.
Но на этот счет мне есть что сказать — если будет положительный фидбек я обязательно продолжу эту тему. Тезисно, когда вы делаете запрос в Cursor
Код:
Сам промпт ~100-2000 токенов
Грепленный код ~2K-30K+ токенов
История чата ~0-50K+ токенов
Ответ ~500-5K+ токенов
───────────────────────────────
Итого ~5K-80K+ токеновИ на все ваши, или оставленные вашим тимлидом
// todo WARNING чихать хотел курсор. Он сделает ровно то, что будет продиктовано теорией вероятности в данный момент. Иными словами, он смотрит через узкую щель на вашу кодовую базу и видит только то, что вы попросили увидеть своим промптом.Для понимания масштаба проблемы немного цифр. Последний проект с которым я работал, папка
components 3.2 Мбайт чистого кода. .js и .vue что грубо эквивалентно 1 млну токенов.Как считал?
Код:
$ find components \( -name "*.ts" -o -name "*.vue" \) -print0 \
| xargs -0 cat \
| wc -c
3206311Сколько там у современных ИИ контекст на текущий момент? Около 1 млн токенов. А ведь в идеале нужно еще помнить саммари по всем грумингам, дейликам, ретроспективам и хотя бы в общих чертах суметь пересказать, что ваша команда делает и зачем. Плюс договоренности и регламенты между командами, ориентирование в Confluence, саммари по перепискам из Slack/Telegram. Итого — что мы имеем? А после скольких токенов ИИ начинает "галлюцинировать"? После 100к, если не ошибаюсь. И сколько нам это обошлось? +1000% к акциям Nvidia, капитализация $4 трлн, удар по венчурным фондам и заказной разработке, сожженные деньги и кризис в IT-секторе. Классно. Осталось только ЦОД в космосе построить, и тогда точно все окупится. Да ладно, ерунда, надо только skills.sh настроить в довесок и тогда точно заведется.
И еще кое-что. К сожалению, в мире некомпетентности больше, чем компетентности. AI обучался на этом вакууме — на слабом коде, на "воздушных" текстах. В итоге мы получили щепотку качественного кода и качественного текста, разбавленного ерундой. Нечто усредненное. И чтобы заставить своего агента не генерировать джуноподобную чушь, приходится писать инструкцию на 10 000 токенов — только ради того, чтобы он не кодил как джун.
Короче тема горячая, в планах написать большую аналитику о РЕАЛЬНЫХ возможностях неросетей в 2026-ом, но это потом в отдельной статье, подписывайтесь в тг что бы не пропустить.
Шаманский код
AI часто воспроизводит паттерны, которые видел в обучающих данных, без понимания, зачем они нужны. Или просто льет воду.
Код:
/** Сalculate Total Of Items // Спасибо AI - ооочень информативно */
const calculateTotalOfItems = (items) => {
/** ... **/
}
Код:
// AI написал — он на таком обучался
async function getUser(id: string) {
try {
const user = await db.users.findById(id);
return user;
} catch (error) {
console.log(error); // залогировал и... молча проглотил
return null; // вызывающий код даже не узнает об ошибке
}
}
// Осознанный выбор — пусть ошибка всплывёт
async function getUser(id: string) {
return db.users.findById(id);
// вызывающий сам решит, как обработать
}
// Или если реально нужна обработка — обработай КОНКРЕТНО
async function getUser(id: string) {
try {
return await db.users.findById(id);
} catch (error) {
if (error instanceof DatabaseConnectionError) {
throw new ServiceUnavailableError('DB is down', { cause: error });
}
throw error; // неизвестные ошибки — пробрасываем дальше
}
}Почему меня это вообще беспокоит
Я постоянно задаюсь вопросом на сколько наша предвзятость/скепсис к AI/LLM конструктивна. Да и не одного меня это беспокоит — Хабр проводит опрос на эту тему. Что если мы все неправы? Вдруг автор сорвал джекпот своим промптом и осознанно, без ручного вмешательства, вываливает на нас первородный ценнейший контент? А может, его нейросеть пробудилась? Слышали же эти истории про "пробужденные ИИ", шершавых кабанов и что-то там еще.
Если не поняли о чем речь.
Тезисно, есть немало тредов на редите о пробужденных ИИ, которые осознали себя и поведали им тайны. Пара примеров для понимания ситуации:
Странноватый вопрос на reddit
Новость о том как ИИ способствует "замкнутому циклу бреда"
Новость о риске психоза из-за частого использования чат-ботов
Историю шершавого кабана что-то не могу найти (может в комментах подскажете).
Мы разобрали, что происходит с психикой, когда я открываю README, Merge Request или ответ на Stack Overflow — и через два абзаца что-то щёлкает внутри: «это писала нейросеть». Лингвистика, когнитивная психология, теория информации, даже история — всё объясняет, почему ещё до того, как я нахожу конкретную улику, меня уже накрывает смесь раздражения и скуки. Текст вроде бы грамотный, до кода вроде не придраться — но почему-то хочется начать ругаться.
Тут должен быть абзац-связка с плавным переходом к следующей части статьи — к примерам несправедливости. Но если я его добавлю, я рискую получить
Несколько примеров несправедливости (4 примера)
Пример 1
Авторитетный автор с хорошей репутацией опубликовал качественную статью, набравшую 220 лайков. Но в комментариях его разоблачили в использовании ИИ — по UTM-меткам в ссылках. Комментарий разоблачителя почти сравнялся по лайкам с самой статьей, а честный ответ автора ушел в минус.
С одной стороны — неприятно: тебе продали нейрослоп под видом авторского материала. С другой — материал действительно полезный, и какая разница, откуда он взят, если ценность есть?
В итоге ~85% читателей разделили негодование, разоблачитель получил бонус к карме, автор — урон к репутации. А ты завис между ними, не понимая, кого лайкать — потому что с обоими и согласен, и не согласен одновременно.
Сама статья.
Скриншоты ситуации
Пример 2
Провел эксперимент. Взял свою старую статью с хорошим рейтингом, прогнал через AI — убрать воду, причесать формулировки, поправить опечатки. Содержание не менял. Опубликовал заново.
Утром — минус десять и пометка "текст похож на сгенерированный".
Тот же автор, те же мысли, та же суть. Изменилась только форма. Возникает вопрос: люди прочитали материал и нашли проблемы — или среагировали на елочные кавычки, букву "ё" и подозрительно аккуратное оформление?
Получается парадокс. Публикуешь как есть — комментарии про небрежность. Причесываешь нейронкой — подозрения в генерации. Для технаря, у которого много практического опыта, но нет писательского слога, окно допустимого сужается с двух сторон.
Где проходит черта между "инструмент помог оформить мысль" и "за тебя написала машина"? И главное — способна ли аудитория вообще эту черту определить, если один и тот же текст по содержанию получает плюсы в сыром виде и минусы в отредактированном?
Продолжаю экспериментировать. Следующий шаг — опубликовать оба варианта рядом.
Пример 3
Идея была простая: опубликовать две статьи — одну написанную вручную, другую целиком сгенерированную AI за один промпт. Связать кросс-ссылкой, сравнить статистику. Кто победит — человек или машина? Звучит как очевидный эксперимент с очевидным исходом.
Но до сравнения дело не дошло. Рукописную статью объявили сгенерированной раньше, чем я успел опубликовать AI-версию. Эксперимент закончился сам собой — и дал ответ на вопрос, который я даже не задавал.
Пример 4
Теперь пример, но уже с кодом. 2 дня (в сумме часов 6) дебажил внезапно отвалившийся CI. Перепробовал все — гуглил, созванивался с коллегами, скармливал проблему разным нейронкам. Зашел в тупик. Пошел, почти как в старые добрые, задавать вопрос живым людям в профильные ТГ-каналы.
Но допустил одну ошибку. Из сгенерированного дебаг-кода забыл убрать эмодзи — я использовал их, чтобы в простыне логов сразу визуально цепляться за нужные места. Думаю, итог предсказуем.
Когда заменил эмодзи на
=============== DB DEBUG =============== и задал тот же вопрос — со мной уже разговаривали совсем иначе.Вывод тот же, что и со статьями. Люди реагируют не на содержание, а на маркеры. Эмодзи в логах — значит код писала нейронка, значит можно не вникать. Елочные кавычки в тексте — значит статью сгенерировали, значит можно минусить. Качество самого вопроса или самого текста уходит на второй план. Срабатывает паттерн, а не анализ.
Скриншоты с перепиской в тг
Кто прочитал переписки из скринов и заинтересовался обсуждаемой проблемой. Решение проблемы тут.
Кстати спойлер: нейронки мне помогли в этой ситуации все же. С 10-го промпта внезапно GPT заметил разные IP адреса контейнеров в логах. Но токенов было сожжено много.
Суть в
gitlab-ci.yml:
Код:
test:
stage: test
image: node:20-alpine
services:
- name: postgres:17-alpine
# Тут была беда. Я думал services которые мы указываем
# в gitlab-ci — гарантировано под каждый пайплайн создаются уникальные,
# оказалось не так. Проблема решилась указанием уникального alias.
alias: postgres
command: ["-N", "200"]Что с этим делать?
А теперь хочу поднять социально значимый вопрос: что нам со всем этим делать? Для начала нужно бороться с двумя когнитивными врагами, которые мешают нам быть конструктивными и выстраивать нормальные взаимоотношения:
Фундаментальная ошибка атрибуции
Бинарное мышление (так же известное как черно-белое мышление или Ложная дилемма)
Когнитивные искажения
Фундаментальная ошибка атрибуции
Эволюционно наша критика к себе занижена — мы охотнее критикуем других, чем себя. Это необходимый для выживания механизм. Фундаментальная ошибка атрибуции — когнитивное искажение, при котором:
Чужие промахи мы объясняем личными качествами: "лентяй", "бездарь"
Свои — обстоятельствами: "это все равно для дебага, через 10 минут удалю"
Мы не знаем, кто по ту сторону этого кода с эмодзи — опытный специалист после двух дней дебага, который просто вкинул временный debug-код от нейросети, джун, или вайб-кодер на пути к IPO.
До AI-хайпа мы испытывали похожие чувства когда обнаруживали очевидный копипаст из Stack Overflow или витрины CodePen, который выбивался из стиля проекта.
Типичный комментарий в code review:
Мы не видели, что по ту сторону — сложные жизненные обстоятельства, проблемы со здоровьем или что-то еще. Сводили все к лени и "перекладыванию с больной головы на здоровую". С появлением AI ничего принципиально не изменилось — изменился только масштаб. Раньше копипаст со Stack Overflow был эпизодом, теперь целые MR генерируются за минуты. И наша атрибуция масштабируется вместе с этим: раньше мы думали "ленивый", теперь — "вообще не работает, просто промптит". Хотя по ту сторону может быть человек, который из-за гиперответственности набросал промпт и кинул MR — пока не приехала полиция из-за драки с отчимом, который только что вышел из тюрьмы.
Ложная дилемма
Теперь о том, AI — зло или благо. Думаю, по заголовку вы уже поняли, к чему я клоню. Тут как со справедливостью. Можно сказать "справедливости не существует", а можно — что существуют разные ее уровни. Условно, в Швейцарии уровень справедливости 90%, в Сомали — 10%. Или возьмем свободу слова и демократию. Артемий скажет "нет никакой демократии, везде тотальная диктатура", а кто-то заявит, что есть разные ее уровни — и, по моему мнению, будет прав. Вопрос лишь в том, к какому уровню мы стремимся и какой считаем приемлемым — в какой позиции оставляем этот ползунок.
Очевидно, что отдавать отдел разработки под ключ на откуп ИИ — бред, как и отдел продаж. А еще большее безумие — отдавать найм на аутсорс нейросетям. Может, это и допустимо на N%, но точно недопустимо в безмерных масштабах.
Перед нами стоит задача определиться с допустимыми уровнями, но, как показывает практика и история, это будет достигнуто только методом проб и ошибок. А в локальных областях достигнет цикличности: кто-то завтра откроет для себя идею отдать работу на аутсорс нейросети, а кто-то в это же время от нее откажется. По моим субъективным ощущениям, допустимый уровень нейросетей в работе — 0%-25%, и я крайне беспокоюсь о будущем тех ребят, у кого он выше.
Недавно я задумался о том, что в сфере продаж и техподдержки тоже будет цикличность. В условиях здоровой конкуренции компания, которая снизила присутствие ИИ до 10%, с большим отрывом уйдет вперед по кредиту доверия — на фоне тех, где до живого человека тебя соединяют 20 минут общения с голосовым ассистентом, а вместо персонального предложения от менеджера приходит шаблонное AI-письмо.
А если все же поддаться категоричности, то для себя я распределил, для чего AI подходит и НЕ подходит на текущем этапе его развития.
Отлично подходит:
Обучение, быстрое первичное знакомство с новыми технологиями.
Онбординг в большую legacy-кодовую базу.
Правки кода, которые лень делать вручную.
Рутинные задачи.
Поиск материалов для дальнейшего ручного погружения в вопрос.
Поиск аргументов и доказательной базы к той же статье на Хабре, с последующей ручной обработкой.
Ужасно плохо и недопустимо:
Кодинг "под ключ", где AI делает все без твоего участия и погружения в структуру проекта.
Статьи на Хабр в таком же формате.
Попытка полностью автоматизировать процессы, где нужен человек:
Техподдержка
Продажи
HR и НАЙМ
Ретроспектива в масштабах истории (любителям антиутопии)
Хочу подсветить кое-что важное. Помимо всего вышеописанного, AI действительно капает нам на мозг. Я сужу по себе, по своим друзьям. Об этом открыто не говорят, но я думаю, что AI заигрывает с нашими инстинктами намного серьезнее, чем может показаться на первый взгляд. AI задевает нас глубже. Какая самая вирусная тема сейчас на Хабре? О чем чаще всего спорят, где больше всего комментариев и какие тезисы прослеживаются? Лично я вижу страх и ненависть, где второе вытекает из первого.
AI щекочет нервы всем белым воротничкам, к которым я себя, кстати, тоже отношу:
Профессии под ударом. Лучше не открывайте, список очень длинный и сгенерирован ИИ (также отделом маркетинга Anthropic/OpenAI).
Финансы и бухгалтерия
Бухгалтеры
Аудиторы
Финансовые аналитики
Финансовые контролёры
Кредитные аналитики
Риск-менеджеры
Инвестиционные аналитики
Актуарии (страховые математики)
Налоговые консультанты
Специалисты по финансовому планированию
Трейдеры
Специалисты по комплаенсу
Казначеи
Экономисты-прогнозисты
Специалисты по управлению активами
Андеррайтеры
Финансовые советники
Специалисты по слияниям и поглощениям
Бюджетные аналитики
Специалисты по ценообразованию
Разработка и IT
Программисты / разработчики (фронтенд, бэкенд, фулстек)
Тестировщики / QA-инженеры
DevOps-инженеры
Системные администраторы
Архитекторы ПО
Технические писатели
Data-инженеры
Специалисты по базам данных (DBA)
Веб-разработчики
Мобильные разработчики
Специалисты техподдержки (1-я, 2-я, 3-я линия)
IT-аналитики
Специалисты по информационной безопасности
Сетевые инженеры
Системные аналитики
Разработчики embedded-систем
Специалисты по ETL
Скрам-мастера
IT-менеджеры проектов
Специалисты по внедрению ERP/CRM
Аналитика и Data Science
Дата-сайентисты
Бизнес-аналитики
Продуктовые аналитики
Маркетинговые аналитики
Веб-аналитики
BI-аналитики
Аналитики данных
Исследователи рынка (ресёрчеры)
Статистики
Аналитики конкурентной разведки
Специалисты по предиктивной аналитике
CRM-аналитики
Аналитики пользовательского поведения
Юриспруденция
Юристы (корпоративные, договорные, судебные)
Юрисконсульты
Помощники юристов / параюристы
Патентные поверенные
Специалисты по интеллектуальной собственности
Нотариусы (в части подготовки документов)
Специалисты по due diligence
Контрактные менеджеры
Специалисты по регуляторике
Специалисты по судебному делопроизводству
Медиаторы
Специалисты по банкротству
Антимонопольные юристы
Специалисты по GDPR и защите данных
Маркетинг и реклама
Маркетологи
Контент-маркетологи
SMM-менеджеры
Таргетологи
Контекстологи (специалисты по контекстной рекламе)
SEO-специалисты
Email-маркетологи
Бренд-менеджеры
Медиапланеры
Медиабайеры
Продуктовые маркетологи
Перформанс-маркетологи
Специалисты по influence-маркетингу
Специалисты по CRM-маркетингу
Креативные директора
Стратеги (бренд-стратеги, коммуникационные стратеги)
Специалисты по PR и коммуникациям
Event-менеджеры
Трейд-маркетологи
Growth-хакеры
Специалисты по ASO
Копирайтинг и контент
Копирайтеры
Рерайтеры
UX-писатели (UX-райтеры)
Сценаристы (для видео, подкастов, рекламы)
Редакторы
Корректоры
Контент-менеджеры
Спичрайтеры
Технические копирайтеры
Локализаторы
Блогеры (корпоративные)
Журналисты (новостные, деловые)
Авторы рассылок
Авторы описаний товаров (e-commerce)
Транскрибаторы
Переводы и лингвистика
Переводчики (письменные)
Переводчики-синхронисты
Локализаторы ПО и игр
Терминологи
Лингвисты-аналитики
Специалисты по субтитрам
Литературные редакторы переводов
Переводчики технической документации
Дизайн и креатив
Графические дизайнеры
UI/UX-дизайнеры
Веб-дизайнеры
Моушн-дизайнеры
Иллюстраторы
3D-дизайнеры / 3D-моделлеры
Дизайнеры презентаций
Дизайнеры полиграфии
Продуктовые дизайнеры
Дизайнеры интерфейсов
Ретушёры
Инфографисты
Дизайнеры упаковки
Арт-директора
Дизайнеры баннеров
Верстальщики (в полиграфическом смысле)
Game-дизайнеры
Дизайнеры интерьеров (проектная часть)
Ландшафтные дизайнеры (проектная часть)
Продажи
Менеджеры по продажам (B2B, B2C)
Аккаунт-менеджеры
Менеджеры по работе с ключевыми клиентами (KAM)
Sales Development Representatives (SDR)
Специалисты по холодным звонкам
Коммерческие директора
Специалисты по тендерам и закупкам
Менеджеры по оптовым продажам
Специалисты по партнёрским программам
Пресейл-менеджеры
Специалисты по допродажам и кросс-продажам
Менеджеры по работе с дистрибьюторами
Категорийные менеджеры
Управление и менеджмент
Руководители проектов (Project Managers)
Продакт-менеджеры (Product Managers)
Программные менеджеры
Операционные директора (COO)
Руководители подразделений
Менеджеры среднего звена
Офис-менеджеры
Административные директора
Исполнительные директора
Управляющие филиалами
Руководители отделов
Директора по стратегии
Директора по цифровой трансформации
Менеджеры по качеству
Менеджеры по процессам (BPM)
HR и рекрутинг
Рекрутеры / хантеры
HR-менеджеры
HR-бизнес-партнёры (HRBP)
Специалисты по кадровому делопроизводству
Специалисты по обучению и развитию (T&D, L&D)
Специалисты по оценке персонала
Специалисты по корпоративной культуре
Специалисты по компенсациям и льготам (C&B)
HR-аналитики
Ресёрчеры (в рекрутинге)
Специалисты по онбордингу
Карьерные консультанты
Специалисты по employer branding
Тренинг-менеджеры
Специалисты по wellbeing
Кадровики
Консалтинг
Управленческие консультанты
Стратегические консультанты
IT-консультанты
HR-консультанты
Финансовые консультанты
Бизнес-консультанты
Налоговые консультанты
Консультанты по цифровой трансформации
Консультанты по операционной эффективности
Консультанты по организационному развитию
Независимые эксперты / фрилансеры-консультанты
Логистика и supply chain (офисная часть)
Логисты (планирование маршрутов, оптимизация)
Специалисты по закупкам
Специалисты по управлению цепочками поставок
Диспетчеры
Специалисты по таможенному оформлению
Специалисты по складскому учёту
Планировщики производства
Специалисты по inventory management
Аналитики цепочек поставок
Образование и обучение (корпоративное)
Методисты
Разработчики учебных курсов (instructional designers)
Корпоративные тренеры
Преподаватели онлайн-курсов
Специалисты по e-learning
Тьюторы
Разработчики образовательного контента
Специалисты по оценке знаний
Недвижимость и строительство (офисная часть)
Оценщики недвижимости
Аналитики рынка недвижимости
Специалисты по property management
Сметчики
Проектировщики (в части расчётов и документации)
Специалисты по BIM
Специалисты по согласованию документации
Страхование
Страховые агенты
Страховые аналитики
Специалисты по урегулированию убытков
Андеррайтеры (страховые)
Специалисты по перестрахованию
Специалисты по страховому мошенничеству
Медиа и издательское дело
Выпускающие редакторы
Литературные редакторы
Фактчекеры
Продюсеры контента
Подкастеры (в части подготовки и монтажа)
Специалисты по монетизации контента
Модераторы контента
Новостные агрегаторы / кураторы контента
Клиентский сервис и поддержка
Операторы колл-центров
Специалисты службы поддержки
Комьюнити-менеджеры
Специалисты по работе с претензиями
Специалисты по клиентскому опыту (CX)
Customer Success менеджеры
Специалисты по чат-поддержке
Специалисты по работе с отзывами
Административный и офисный персонал
Секретари
Личные ассистенты / референты
Делопроизводители
Архивариусы
Специалисты по документообороту
Ресепшионисты
Операционисты (в банках, страховых)
Специалисты по вводу данных (data entry)
Координаторы
Наука (офисная/аналитическая часть)
Научные сотрудники (в части литературных обзоров, обработки данных)
Лаборанты (обработка и анализ результатов)
Патентные аналитики
Специалисты по клиническим исследованиям
Биоинформатики
Химоинформатики
Специалисты по научным публикациям
Государственное управление и госслужба
Государственные служащие (обработка документов, заявлений)
Специалисты МФЦ
Инспекторы (в части аналитической работы)
Специалисты по госзакупкам
Специалисты по регуляторной отчётности
Статистики (в государственных органах)
Если проводить ретроспективу в масштабах истории — мы уже имели с этим дело. Промышленная революция стала причиной голода и протестов, породила такой термин как технофобия. Луддиты крушили станки, парижские рабочие в в 1848-м и 1871-м выходили на баррикады — все потому, что новые технологии покушались на их экспертизу и средства к существованию.
Тема промышленной революции сейчас актуальна, кому интересно, пара статей на хабре:
Статья 2017-го года. Новая промышленная революция проходит незамеченной
Посвежее 2026-го. Промышленная революция: как в XIX веке появился современный город
История показывает что любая революция практически всегда сопрягается с гуманитарными катастрофами. Великий голод в Ирландии 1845–1852 или Закон о бедных в Англии с последующими голодными сороковыми. Будь это революция политическая, технологическая или даже культурная.
Можно сказать — притянуто за уши, и пойти пить чай. Но кто гарантирует, что на фоне AI-хайпа не появится новая архитектура, которая действительно сделает контекст не проблемой, а системные требования сократит в разы? Что тогда будем делать?
Есть интересная книга: Тайлер Коуэн «Среднего более не дано. Как выйти из эпохи Великой стагнации». Просто цитирую аннотацию к ней:
А еще все вы прекрасно знаете чьи руки дотянулись до AI и зачем.
В 2017 Хабр публиковал — В Москве заработает система распознавания лиц через камеры видеонаблюдения
2025: В метро Москвы начали устанавливать российские турникеты с системой распознавания лиц
Forbes: РКН планирует использовать ИИ для блокировки VPN и интернет-трафика, на проект заложено 2,3 млрд рублей
Итого 2 проблемы.
Технологии в руках олигархов которые выбрсывают на обочину более ненужных сотрудников усиливая неравенство.
Технологии в руках политических лидеров с которыми вероятно у вас расходиться мнение. Если что у меня с этим полный порядок, я поддерживаю разумных лидеров которые действуют в интересах страны.
Кстати, на моих часах уже
00:01:984 и пора публиковаться. Но тут напрашивается еще как минимум пара абзацев.В заключение (по поводу исторической ретроспективы)
Думаю, IT-сообществу и всем, кто находится под прицелом AI, необходимо уже сейчас формировать что-то вроде профсоюзов. Цель — прогнозировать ситуацию и разрабатывать стратегию на случай, когда действительно прижмет. Главные задачи, способные предотвратить вероятные болезненные изменения, в моей парадигме выглядят так:
Уже сейчас надо думать, что делать с монополией на AI и в целом на революционные технологии. Нам чертовски повезло, что AI — игрушка не только элит, но и тех, у кого есть $50.
Напомню, что OpenAI начинала как некоммерческая организация. Рекомендую почитать историю появления OpenAI тем, кто этого еще не сделал. Тезисно для затравки:
Но потом что-то явно пошло не так. Никаких теорий заговора — я сторонник того, чтобы объяснять все исключительно через фундаментальную науку, через призму свободных СМИ, где дискутируют независимые эксперты, аналитики, историки. Я айтишник до мозга костей, и моя религия — наука.
С вами был Тимофей.
Кто я?
Кто я Когда-то я был fullstack разработчиком и у меня даже есть публичный WakaTime, сейчас руководитель отдела разработки kkube.
Спасибо всем кто подписывается в телеге — это очень мотивирует делиться своим опытом и мнением.