ИИ пошел прыщами. И это тревожный момент

Дарио Амодеи (папа Anthropic) недавно опубликовал эссе The Adolescence of Technology («Подростковый возраст технологий») и он предлагает точную метафору: современные технологии, особенно ИИ, ведут себя как подросток. Дури уже много, а самоконтроля и понимания последствий — пока нет.

Мы очень близко к «мощному ИИ»: системам, которые могут сами ставить подзадачи, действовать автономно, работать месяцами и принимать решения быстрее людей. И да, это может случиться не «когда-нибудь», а в ближайшие несколько лет.

Ну а теперь к самому интересному. Чем нам грозит такая безответственность. Пять рисков, о которых говорит Амодеи.

1. Автономность без понимания последствий

ИИ может делать ровно то, что вы попросили. Проблема в том, что мы не всегда понимаем, что именно попросим.

🤦‍♂️система оптимизирует цель формально, а не по здравому смыслу. Классика: «максимизируй результат» без понимания, кого и что можно по дороге сломать.

2. Усиление маленьких игроков, негативный сценарий

Раньше, чтобы сделать что-то опасное, нужны были деньги, команда и инфраструктура. Теперь — ноутбук, модель и плохое настроение.

🤦‍♂️один человек или небольшая группа получают возможности, которые раньше были только у государств или корпораций.

3. Идеальный инструмент для контроля

ИИ отлично масштабирует не только пользу, но и давление. Слежка, манипуляции, автоматические репрессии, социальный скоринг — все это внезапно становится дешевым и эффективным.

🤦‍♂️ технологии «помощи» легко превращаются в технологии подавления.

4. Экономика не успевает

ИИ повышает продуктивность, но неравномерно. Кто-то ускоряется в 10 раз, а кто-то становится ненужным «по версии алгоритма». Вы где в этом уравнении?

🤦‍♂️ резкий рост неравенства, обесценивание профессий и социальная нестабильность настигают быстрее, чем мы поймем это.

5. Социальные побочные эффекты

ИИ влияет не только на рынок труда, но и на мышление, общение и доверие. Мы делегируем не только задачи, но и суждения.

🤦‍♂️ мы стремительно теряем навык сомневаться, проверять и принимать решения самостоятельно.

Вывод без морализаторства: Подростковый возраст ИИ опасен не из-за злого умысла, из-за переоценки им собственных возможностей и недооценки их нами