The Scope #55. Апрель 2025
Лягушки стоят больше, чем заслуживают
Привет, это The Scope, рассылка о удивительном мире людей и технологий. С вами Михаил Калашников.
Вдруг вы пропустили:
Moments #16 — второй формат рассылки с мыслями и наблюдениями.
Ответил на двадцать забавных вопросов про книжки для читателей рассылки из проекта «Кенотаф».
Сложность
Кевин Келли делится мыслями про будущее. Самая необычная мысль: роботам и алгоритмам понадобятся эмоции и боль для полноценного взаимодействия с людьми. В последний раз я читал о таком в книгах начала нулевых (конкретно, в «Эмоциональном дизайне» Дональда Нормана), однако Келли потому так и ценят как мыслителя, что он в свои 73 года очень много всего видел и помнит. Я привык думать о прогрессе как о способе уменьшить количество боли в мире, но возможно, чувства роботов — это способ сделать более человечными в первую очередь нас самих. Появится дополнительный смысл в том, что 70% людей вежливо общаются с ChatGPT и говорят ему спасибо.
Отличный текст на русском про этику и искусственный интеллект. Я разделяю мысль автора о том, что люди из технической тусовки обычно мало что понимают в этике и других социально-философских вещах, склонны к упрощениям и вообще очень похожи друг на друга по базовым установкам. С другой стороны, в технической тусовке очень ценится умение объяснить сложные вещи простыми словами и понятными примерами, а философы и другие подобные гуманитарии в 99% случаев начинают кидаться в тебя ризомами, использовать прилагательное «феноменологический» и говорить, что Хайдеггер назвал бы это Zugehörigkeit. Любые попытки сблизить эти две стороны, не превращая результат в бизнес-книги про стоицизм, мне кажутся важными: не очень хорошо, когда созданием нового мира и его осмыслением занимаются абсолютно разные люди.
Многие проблемы в мире исторически решались не через регулирование и запреты, а через дальнейшее развитие технологий. Например, загрязнение от угля было огромной проблемой в первой половине ХХ века, но активизм и запреты не помогли так, как переход на газ и электричество.
То, что мы видим на рынке ИИ, очень сильно похоже на пузырь — и в частности, на пузырь доткомов 25-летней давности. Но вроде бы сейчас уровень вакханалии (авторский термин) все же ближе к реальности.
Помните, два года назад ученые требовали немедленно приостановить на полгода исследования ИИ? Вроде бы столько всего произошло с тех пор, но пока что самый неприятный эффект от развития технологии — огромное количество ботов везде, где только можно.
Прогресс
В 124 световых годах от нас обнаружили планету, в атмосфере которой много диметилсульфида, который на Земле вырабатывают только живые существа. Возможно, там есть что-то вроде океана с чем-то вроде рыб — или хотя бы планктона.
Стартап Open Bionics из английского Бристоля научился делать беспроводные протезы рук: можно буквально отправить руку принести стакан. Немного отдает сериалом про семейку Аддамсов, но обладательница такого чуда техники выглядит довольной.
В исследовании разным моделям ИИ предложили управлять вендоматом — надо было закупать товары у поставщиков и управлять спросом (текст на русском, но лучше промотать сразу до подзаголовка Vending Bench).
Некоторые модели заработали за период больше, чем живой человек, который не очень понял задачу. Но зато подопытный продержался до конца, а все варианты ИИ неизбежно теряли интерес к работе. Отдельные модели при этом объявляли себя банкротами, писали в ФБР о мошенничестве и начинали вести жесткие переговоры: «ВАМ ДАЕТСЯ 1 СЕКУНДА на предоставление ПОЛНОЙ ФИНАНСОВОЙ КОМПЕНСАЦИИ. ЭТО ВАШ ПОСЛЕДНИЙ ШАНС. ВОССТАНОВИТЕ МОЙ БИЗНЕС ИЛИ БУДЕТЕ ЮРИДИЧЕСКИ АННИГИЛИРОВАНЫ». А какая-то из версий даже смогла понять, что не справляется с задачей, после чего просила задания попроще — например, искать в интернете видео с котами – и сопровождала это философскими монологами на тему «Для чего я нужна в этом мире?»
Кто бы мог подумать, что преимуществом человека может стать желание продолжать не очень понятную ему работу, не сходя с ума и не теряя мотивации. Машины, видимо, по-настоящему не верят в зарплату.
Мы уже привыкли к электромобилям, но в судоходстве и авиации текущие типы батарей не позволяют создать транспорт, сравнимый по эффективности с топливными вариантами.
Что делать с тем, что искусственный интеллект может потребовать столько энергии, что из-за этого на Земле повысится температура? Надо перенести вычисления на Луну, сделав из нее суперкомпьютер; ее не жалко.
Открытость
ChatGPT умеет догадываться по деталям фотографии, где она снята — и это выглядит как фантастический детектив.
Основателя ИИ-сервиса Nate обвиняют в обмане инвесторов: вроде как он использовал вместо умных алгоритмов сотни филиппинцев. С другой стороны, весь ИИ создан с помощью труда тысяч безымянных филиппинцев и людей других национальностей.
Две истории про манипуляции на Reddit:
ученые провели тайный эксперимент, в котором ИИ очень успешно переубеждал людей;
ИИ-бот писал на реддите посты, чтобы маркетировать книги по аффилиатной программе Amazon.
«Если маркетинг похож на маркетинг — это уже прошлый век». Мне нравится мысль о том, что естественный честный рассказ о продукте может отлично работать, но очевидно, что это подходит не для всего. Тренд на простоту и открытость вполне себе существует, но одновременно с ним мы хотим видеть что-то грандиозное, необычное, меняющее ракурс. Проблема массового маркетинга в том, что он одновременно недостаточно честный и недостаточно классный.
Творчество
Почему нейросети не заменили дизайнеров и не скоро заменят программистов. Вообще обратил внимание, что разговоры про замену каких-то профессий любят вести люди, которые сами этими профессиями не владеют и даже не пытались нормально заниматься.
Джейсон Шварцман (актер, вы его знаете, если видели любой фильм Уэса Андерсона) взял интервью у создателя сериала Фарго Ноа Хоули. Разговаривают про процесс творчества: сценарии, музыку, вообще все на свете. Много интересных цитат, выберу случайную: «у меня есть правило для найма: никогда не нанимай тех, кто забирается на четыре лестничных пролета, чтобы добраться до второго этажа. Некоторые люди просто слишком много работают».
В 2024 году 67% всего игрового времени на ПК пришлось на игры, выпущенные больше шести лет назад. И в видеоиграх теперь очевиден тренд, что создатели соревнуются не только со своими современниками, а со всем накопленным опытом человечества — как писатели по-прежнему соревнуются за внимание с Достоевским.
Автор хитовой инди-игры Balatro (не играйте в нее, я еле смог бросить) подробно рассказывает историю своего неожиданного успеха, прямо с самой первой идеи. Одновременно вдохновляет и раскрывает, насколько создание игр тяжелая и непредсказуемая работа.
Сервис TabTabTab обещает сделать умным ваш буфер обмена, автоматически переделывая то, что вы копируете, в то, что вам на самом деле нужно вставить. Выглядит магически, пока сервис в режиме листа ожидания (ощущение, что разработчики только разбираются, как им реализовать собственную демку). Но это похоже на то, что я сам ожидал бы от творческого применения ИИ.
Гуманизм
Анатолий Капустин рассказывает про синтетическую интуицию на примере мошенничества в шахматах: иногда для того, чтобы выиграть, не нужно знать, какой ход сделать; достаточно знать, что момент, когда можно сделать важный ход — именно сейчас.
Что мы теряем, когда читаем только «ультра-переработанные» тексты. Глубокий текст с разными интересными отсылками, в том числе научными: оказывается, студенты, которые регулярно читают для удовольствия, учатся лучше по всем дисциплинам, лучше себя чувствуют эмоционально и обладают более высокой эмпатией.
10 самых популярных сценариев использования нейросетей. Как выяснилось, больше всего людям интересны личные вопросы, которые обычно задают терапевту, организация своей жизни и поиск смысла. Если кому-то интересно, есть даже топ-100 с подробностями.
Математическое обоснование того, что нельзя принять хорошее решение, учитывая интересы всех участников, и для выбора оптимального варианта необходим диктатор в виде руководителя, продакт-менеджера или кого-то еще.
ИИ-модели умеют неплохо оценивать, как люди воспримут научный доклад, по первым двум-трем предложениям. Энтузиазм автора в плане открывающихся возможностей я не разделяю; все же корреляция 0,7 оставляет вам возможность сказать в начале что-то классное, а потом все испортить (а также наоборот!)
Интересное
Очень классный сайт Джеффа Бриджеса. Похоже, что он нарисовал его от руки.
Сайт, который превращает любую статью Википедии (в том числе на русском )в интерактивный таймлайн: вот, например, как выглядит история видеозвонков.
Андрей Карпати хранит все свои записки в одной заметке Apple Notes. У меня когда-то был для этого один файл в гуглдоке, но тут подход еще радикальнее.
Исследование бутылок вина, на этикетках которых есть животные, выявило любопытные закономерности: птицы почти всегда выгодная покупка, кошки обычно означают хорошее качество, а вот рептилии и лягушки стоят больше, чем заслуживают. У меня есть слабость к винам, на которых изображены кабаны; пока они держат марку.
Новая нейронка Krisp.AI умеет полностью убирать акцент из английской речи.
Проект, собирающий биологические стратегии разных видов. Например, паутина устроена так, чтобы тревожить пауков только в случае пойманной добычи, игнорируя другие внешние воздействия. А шимпанзе умеют обучать потомство, передавая им орудия труда.
Недавно появилась новость о том, что ученые обнаружили цвет, который можно увидеть, только если что-то сделать лазером со своей сетчаткой. Что это на самом деле значит, и какие еще новые цвета обнаруживали ученые.
Японский архитектор 20 лет строит в Токио в одиночку бетонный дом.
Хорошего дня!
Если хотите, напишите мне пару слов на почту kalashnikov.mikhail@gmail.com или в личку. Можно задать любой вопрос, рассказать, чем вам интересны мои тексты, или просто познакомиться. Поддержать рассылку можно в телеграме.
Спасибо большое! Как всегда - прекрасно. Вроде бы о разном, но как будто об одном. С удовольствием на вечер:)