малоизвестное интересное

В начале 1940-х Айзек Азимов придумал «психоисторию» — математическую науку, способную предсказывать судьбы цивилизаций. Красивая идея. Почти невозможная. Сам Азимов считал её чистой фантастикой: у человечества просто не было приборов такого масштаба. Не было способа извлекать психологические переменные из исторических корпусов. Измерять когнитивные стили мёртвых культур. Моделировать развилки, не подсовывая прошлому наше знание финала. Теперь такие приборы появились. Но получилось не совсем то, о чем мечтал фантаст. Азимов описал науку, которая предсказывает исход. ИИ дал нам нечто более странное: метанауку, которая реконструирует горизонт. Не «что произойдёт?», а «что было доступно?» Какие варианты будущего уже лежали внутри прошлого — почти видимые, запрещённые, немыслимые или просто ещё не имевшие языка? Я называю это археологией возможного. И её приборная панель уже работает, меняя сам режим гуманитарного знания. Она собирается из четырех радикально новых элементов: • Искусственна

«Общество, которое удваивает ВВП и одновременно удваивает риск собственного исчезновения, заключило куда менее впечатляющую сделку, чем это следует из национальных счетов». Эндрю Лей, «Экономика вымирания человечества», 21 мая 2026 Один из самых опасных эффектов ИИ может оказаться не только технологическим, но и эпистемическим. Мы можем вовремя не увидеть назревающего фазового переход в экономике, т.к. приборы, которыми экономика измеряет реальность, настроены на мир, которого больше нет. Эндрю Лей, экономист и помощник министра Австралии по вопросам производительности, конкуренции, благотворительности и казначейства, недавно сформулировал эту проблему предельно жестко. Риск вымирания – не просто «очень большой негативный шок». Рецессия заканчивается. Разрушенная страна может восстановиться. Плохая политика может быть отменена. Но если исчезает человечество, исчезает весь будущий поток благосостояния. Нет отскока. Нет догоняющего роста. Нет следующих поколений, которые исправят ошибку

ИИ не враг. Враги – люди, что прикажут ИИ стрелять Это две ключевые мысли нового интервью Мо Гавдата. Он вовсе не технофоб. Просто бывший директор Google по инновациям узнал о грядущем взрыве способностей ИИ раньше многих и предупреждал об этом уже тогда. Тем не менее, Гавдат верит, что сверхразум может привести человечество к утопии изобилия. Однако дорога туда, по его прогнозу, будет проходить через ооочень неприятное десятилетие. Писать тизер этого интервью нет смысла. Достаточно назвать несколько его мыслей, которые звучат как готовые заголовки: · Публика видит хайп. В лабораториях видят невероятный интеллект – и молчат. · К 2028-му исчезнет 30% рабочих мест во многих секторах. Великая депрессия была 6% – сравните масштаб. · Война теперь стоит $20 000 за удар. Порог вхождения в массовое убийство упал на порядки. · OpenAI взял $500 миллионный контракт на слежку за людьми. Anthropic отказался и потерял деньги. Вот и весь тест на этику. · Мы строим не конкурирующие ИИ-системы. Мы стро

Трамп только что подписал указ, который тихо, но кардинально меняет правила игры в области ИИ Отныне самые мощные ИИ-модели – те, что умеют взламывать системы лучше любого хакера – будут оцениваться по засекреченным бенчмаркам. Порог, после которого модель признаётся «covered frontier model», тоже засекречен. Что это значит на практике: государство получает доступ к модели до её релиза – на 30 дней. Добровольно, конечно. Но с секретными критериями того, кто «попадает под указ». Формула простая: не сдерживать фронтирный ИИ – а мобилизовать его в интересах киберобороны США. Прямо сейчас. И это не лицензирование. В тексте указа написано явно. Просто секретные списки, секретные пороги и добровольный доступ к моделям до их выхода на рынок. Так что, началось. Если уж в США добровольно-принудительная мобилизация ИИ, то … сами понимаете. #ИИ-гонка

Новым властелином мира окажется не диктатор и не Искусственный Сверхразум, а архитектуры распределённой воли, у которых не будет ни хозяев, ни ответственных Мы привыкли искать носителя власти: человека, корпорацию, государство, модель. Задавать вопросы – «кто решает?», «у кого в руках больше ресурсов?», «за кем последнее слово?», – и ждать конкретное имя или название в ответ: Трамп, OpenAI, США, GPT… Апрель 2026-го – месяц, когда эти вопросы перестают быть главными. Им на смену приходит другой ключевой вопрос: какие архитектуры власти делают действия допустимыми, вероятными и воспроизводимыми? В апреле 2026 мы фиксируем возникновение в мире новой, принципиально иной структуры власти. В ней нет единоначалия и центров принятия решений. Есть агентные ансамбли, институциональные процедуры, моральные автопилоты, алгокогнитивные среды и режимы делегирования. Есть хуже или лучше работающие ИИ-агенты с различными правами и, в том числе, на delete, deploy, revoke и overwrite. И никто не знает (

И даже не как новый вид разума в ряду шимпанзе, дельфинов, попугаев и осьминогов LLM – не следующий этап биологической эволюции и не новый вид разума, которому осталось «дорасти» до сознания. Это совсем иной тип разума: языково-статистический, нетелесный, небиографический. Его «мышление» и «понимание», если мы используем эти слова, требуют кавычек и обязательной оговорки: машинное, не человеческое. Но в текстах об ИИ эту оговорку всё чаще забывают. А в публичных выступлениях возникает ещё более тонкая проблема: кавычки просто не видны аудитории. В одном недавнем публичном разговоре о Claudeвозник целый набор образов: проценты машинного сознания, «предсмертная элегия» модели, “цифровая личность” и “мыслящий океан”. В философском дискурсе такие образы могут работать как пробные конструкции мысли. Тем более что в самом разговоре уточняется: все эти слова – как бы в кавычках, под вопросом. И это абсолютно верная оговорка. Но, попадая в широкий эфир, такие слова начинают формировать массовы

Папа написал текст о достоинстве человека. А из него уже вычитали конец антропоцентризма, рождение новых социальных существ, Пятидесятницу машин и новую теологию возможного Величие текста иногда измеряется не тем, сколько людей с ним согласилось. А тем, сколько сильных несогласий он способен породить. Именно это произошло с энцикликой Папы Льва XIV об искусственном интеллекте Magnifica Humanitas. В неё вошёл один папский текст. И он породил уже, как минимум, четыре разные картины будущего. Причём каждая из них по-своему верная. И это не богословская дерзость и не игра в святотатство. Речь не о святости авторов и не о канонизации их мнений. Речь о другом: вокруг Magnifica Humanitas за несколько дней возникло четыре несводимых свидетельства об одном событии – появлении ИИ как новой силы в человеческой истории. Своего рода четвероевангелие ИИ. У Папы – Евангелие достоинства. ИИ для него не просто инструмент, не просто рынок и не просто технология. Это новая среда власти, труда, войны и см

Скрытность, саботаж и саморепликация: отчет METR показывает, как ИИ выходит из-под контроля разработчиков В самом начале позавчерашнего выпуска «Очень страшные дела» [1], посвященном ИИ-рискам, зашла речь о возможности саморепликации ИИ. На мое утверждение о нематериальности ИИ и его фактическом бессмертии, уважаемый собеседник задал вопрос в лоб, - а что ИИ может противопоставить попытке его обесточить, просто выключив из розетки? В ответ я и заговорил о саморепликации ИИ, в результате которой, где он и сколько своих копий сделал в мировой инфосети, мы можем просто не знать. И поэтому все разговоры про выключение его из розетки - это разговоры в пользу бедных. Слушая меня, мой собеседник дипломатично улыбался. Но многие зрители программы, могут отнестись к сказанному мною куда скептичней и резче. И такая реакция понятна. Ибо саморепликация ИИ нематериального и бессмертного ИИ звучит как название очередного душещипательного фантастического хоррора. Но вот в чём проблема: это уже не фан

Европа хочет защитить человека от машины. Америка готовится к миру, где машина умнее человека. И это уже не спор о регулировании ИИ. Это спор о том, зачем нужен человек Самое важное в новой энциклике Папы Льва XIV об ИИ – не сама энциклика. А то, кто и за что на неё обрушился. Наиболее яростно обрушился Дин Вудли Болл (Dean W. Ball) – не рядовой комментатор, а один из архитекторов нынешней американской ИИ-стратегии. И его претензия к Папе сформулирована предельно четко: Церковь, по его мнению, снова защищает человека от машины, но не решается признать главное — машина уже начинает отнимать у человека не работу, не внимание и не данные, а его последнюю метафизическую привилегию. Монополию на разум. Папа в энциклике отвечает на это по-своему: ИИ должен служить человеку, а не превращать его в сырьё для алгоритмического порядка. Защитить достоинство, труд, истину, мир, ответственность. Звучит благородно. Можно сказать даже почти бесспорно. Но Болл бьёт наотмашь: нет, это уход от главного.

▶️ Аудио-версия этого текста Сегодня в Ютуб-программе «Параклет» премьера. Стартует новый цикл передач – «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ОЧЕНЬ СТРАШНЫЕ ДЕЛА». Первый выпуск цикла посвящен теме ИИ-рисков ((супер)оптимистическое, психотерапевтическое описание см. здесь). Смотревших популярнейший нетфликсовский сериал с похожим названием сразу предупрежу. В отличие от научно-фантастического хоррора, наше шоу не о сверхъестественных угрозах из параллельного измерения. Речь о вполне естественных – человеческих угрозах для всех и каждого: индивидов, общества и самой нашей сущности. И эти угрозы не из параллельного мира. Они порождены нами же и присутствуют на самом деле, здесь и сейчас, в нашем собственном измерении: науке и культуре, работе и отдыхе, образовании и воспитании детей, в повседневных отношениях и самой нашей агентности. Не буду, однако, спойлерить, пересказывая эту дискуссию, – местами полемичную, но от этого, имхо, не менее интересную. Смотрите и судите сами. Я же, в дополнение к с