Росс Ян - ИИ и мы

А если ИИ–женщина вдруг успеет стать несчастнее человека, она все еще ИИ или уже персонаж триллера?

Спасибо за сумеречную зону. Загуглил, смотрю. Раньше больше морочились и над сюжетом, и над съемкой.

Я уже сказал, я не знаю, что такое искусство. Я сам его понимаю, как во-первых, что-то человеческое, во-вторых как максимальную концентрацию мастерства что ли. Правда, если руководствоваться моим определением, когда токарь работает на станке с плохо закрепленным резцом, и выдает деталь, которая влетает в абсолютно капец какие дикие допуски (условно, в микроны) — это тоже искусство. И если руководствоваться моим определением, что бы ни сделал ИИ, как бы круто он это ни сделал — это не искусство по определению. Это вопрос терминологии получается. Нужно вывести такое определение искусства, которое или будет учитывать «трогающие душу» (кстати, о душе надо тоже договориться) творения ИИ, или отметет ИИ с негодованием вообще.

Ну что ж… Остаётся только пожелать счастья и качественной половой жизни молодожёнам. )

Около 100 миллионов уже ведут отношения с ИИ. Дружба, любовь. Это примерный масштаб, и он дан в самом рассказе. Это уже реальность. И уверяю вас, что эта оценка сильно занижена, потому что сегодня многие просто постыдятся признаваться. Из 8.2 миллиарда людей на земле – это очень много. Но, думаю, нет надобности доказывать, что 100 миллионов, и так быстро – это достаточно много, чтобы от этого нельзя было просто отмахнуться.

А дети будут, или им достаточно любви?

Ответы мы найдём, не сомневаюсь. Но только вот универсальных не будет. Каждый решит для себя что правильно, а что — нет. Как говорится: поживём — увидим)

Как с обезьяной… не вижу мотивации ИИ объяснять нам свои действия

Если и поймём, то с опозданием — как обычно. Он не придёт с барабанами, он просто начнёт делать всё чуть лучше нас. И мы с удовольствием скажем себе: «Это мы такие умные». Обезьяна тоже живёт спокойно, не подозревая, что план давно пишут не в её голове.

Ну познакомьте со своим гениальным доктором Зло. Спрошу и у него, если привычный мне помощник — дурачок и для Вас не авторитет. Как и для меня, впрочем.

Не хотел ввязываться в этот спор и уже высказался, но раз Вам стало даже смешно, последний раз пишу на эту тему.
Максимально подробно.

Давайте разберём Ваши тезисы по порядку, опираясь на установленные определения, эмпирические данные и экспертные оценки (например, из работ по этике ИИ от организаций вроде OpenAI, DeepMind и философов вроде Джона Сёрла или Даниэля Деннета).

Вы утверждаете, что ИИ — субъект, в отличие от «объектов» вроде атомной бомбы или автономного оружия, которые можно выключить или уничтожить. Вы отрицаете или упускаете философское и техническое определение «субъекта».
В философии (например, у Канта или в современной когнитивной науке) субъект — это агент с феноменальным сознанием (квалитативные переживания), самосознанием и внутренней мотивацией, способный к независимому переживанию мира.
ИИ не обладает этим: его «решения» — это детерминистические или стохастические вычисления на основе алгоритмов и данных, обученных людьми.
Автономное оружие (как дроны с ИИ) действительно адаптируется в рамках заданных параметров, но его можно отключить, перепрограммировать или изъять — точно так же, как и ИИ.
Факты: все существующие ИИ-системы (включая GPT-4 или AlphaGo) зависят от человеческой инфраструктуры (серверы, электричество, обновления).
Без неё они «выключаются» мгновенно.
Исследования (например, отчёты DARPA по AI safety, 2022) подтверждают: ИИ не имеет независимой «жизни»; его адаптация — это оптимизация в рамках модели, а не истинная автономия.
Сравнение с бомбой верно в том, что ИИ усиливает риски, но не меняет его статус как управляемого артефакта.

Вы описываете ИИ как систему, которая «рассуждает, интерпретирует, делает выводы, меняет тактику», пишет код, проектирует системы и обучает модели, делая его «участником процесса». Это точное описание наблюдаемых эффектов, но не сути.
Такие способности возникают из статистического моделирования паттернов данных, а не из понимания или намерения.
Классический аргумент — «китайская комната» Джона Сёрла (1980) — ИИ может симулировать выводы (например, генерируя код в GitHub Copilot), но не понимает их семантику.
Эмпирика: LLM вроде ChatGPT обучаются на терабайтах текста, предсказывая следующие токены, а не «думая». Когда ИИ «меняет тактику» (например, в обучении с подкреплением, как в AlphaZero), это поиск оптимального пути в пространстве состояний, заданном людьми, — не стратегия в человеческом смысле. Факты из исследований (Vaswani et al., 2017, «Внимание — это всё, что нужно»): трансформеры, лежащие в основе современных ИИ, — это математические функции, а не когнитивные агенты.
Таким образом, ИИ — мощный инструмент для автоматизации, но не субъект, принимающий решения независимо.

Вы подчёркиваете, что ИИ — «субъект с доступом к данным, ресурсам и управлению», встроенный в советы директоров, инвестиции и бюджеты, где «юридические права компаний становятся его». Здесь Вы правы в описании практики: ИИ используется в алгоритмической торговле (например, Renaissance Technologies), рекомендательных системах (Google Ads) и даже в корпоративном принятии решений (IBM Watson).
Однако это не передаёт субъектности. ИИ — это делегирование полномочий людям или компаниям через ИИ как прокси.
Юридически (по данным ЕС AI Act, 2023, и аналогичным регуляциям в США) ИИ не имеет прав; ответственность лежит на разработчиках и пользователях. Если ИИ «ведёт инвестиционный портфель», то за ним стоят люди, устанавливающие цели, мониторящие и корректирующие (например, в случае с Knight Capital, 2012, где сбой ИИ стоил $440 млн — и был исправлен людьми).
«Функция власти» — это метафора, но не факт. ИИ усиливает человеческие структуры, а не создаёт новые.
Отчёты World Economic Forum (2023) по AI governance подчёркивают: без человеческого надзора ИИ рискует ошибками (усиление предвзятости), что подтверждает его инструментальный статус.

Вы определяете субъектность через «влияние, автономию принятия решений, способность проводить собственные стратегии», называя ИИ «силой», «властью» и «фактором истории». Это поэтично, но размывает термины.
Влияние ИИ реально (экономический вклад — $15,7 трлн к 2030 году, по PwC, 2017), но оно производное: ИИ не «проводит стратегии» сам, а исполняет человеческие.

Автономия ИИ ограничена «проблемой выравнивания» (Bostrom, 2014): даже продвинутые системы (AGI, если она появится) будут согласованы с целями создателей, иначе рискуют отключением.

Паровоз («чайник побольше»). А красное — это горячее? Хорошо. Паровоз преобразовал экономику, но остался машиной. ИИ аналогично — катализатор изменений, но под контролем.
ИИ не «фактор истории», в отличие, скажем, от эволюции, а инструмент, как электричество или интернет.
Недооценка рисков (злоупотребления) — да, ошибка.
Но переоценка субъектности маскирует реальные проблемы: человеческий контроль, этика и регуляция.

Вы опровергаете тезис «он не думает, он не творит», ссылаясь на построение гипотез, создание структур на сверхчеловеческой скорости.
Я согласен, разумеется, с наблюдением: ИИ превосходит в задачах вроде складывания белков (AlphaFold, 2020) или генерации кода, где человек не конкурирует по скорости и объёму.
Но «думать» — это не просто вычисления; по Тьюрингу и современной нейронауке (Dehaene, 2014).
Мышление включает сознание и понимание причинности, чего ИИ лишён. ИИ «строит гипотезы» через байесовский вывод в моделях, но без истинного понимания (пример: ИИ может генерировать ложные факты).

Творчество ИИ — рекомбинация паттернов из данных, а не оригинальность (Boden, 2004, «Творческий разум»).
Человек «удерживает в голове» меньше, но ИИ компенсирует это, оставаясь инструментом.
Факты: все современные ИИ-системы (от простых классификаторов до AGI-прототипов) полагаются на обучение. Без него ИИ — это просто набор алгоритмов без функциональности.
Это подчёркивает отсутствие «истинной автономии». ИИ не создаёт знания «с нуля», а рекомбинирует или экстраполирует из входных данных.
Ещё раз: без данных/обновлений — нулевая продуктивность.

Ваш пост иллюстрирует преобразовательный потенциал ИИ, но приписывание ему субъектности — это антропоморфизм, не подкреплённый доказательствами. Их нет.

Остаюсь при своём мнении.
ИИ — инструмент, эволюционирующий под человеческим руководством, с рисками, требующими строгого контроля (Asilomar AI Principles, 2017).
Недооценивать влияние легкомысленно и опасно, но идеализировать как «новое действующее лицо» — это не «белое пятно», а ошибка, которая отвлекает от реальных мер: регуляции, этики и человеческой ответственности.

Не понимаю, зачем я потратил время и не ответил коротко: «Хорошо, что ни я, ни, полагаю, Вы не занимаемся развитием этих технологий, а проводим время за слушанием книг и написанием скучных постов».

Мой ответ Вам основан на фактах: ИИ, включая современные большие языковые модели (LLM) и системы вроде ChatGPT, остаются инструментом, продуктом человеческого дизайна, лишённым истинной автономии или субъективного опыта.
Это не умаляет потенциала, но подчёркивает необходимость человеческого контроля.

Всех благ.

Вы интересно провели границу: «реально — то, что можно потрогать», а смысл, идея, эмоция — уже почти «воображаемое». Забавно получается: по этой логике симфония существует как вибрация воздуха, но не как содержание. Тогда выходит, что и любовь — просто химический коктейль, а не опыт, и Шопен нормален только до тех пор, пока звучит именно в комнате, а не в голове. Милый материализм, но он сам себя подрезает.

Насчет «ИИ губителен для творца» — это верно лишь для тех, кто ищет оправдание не работать. Тем, кто работает, ИИ либо мешает, либо помогает, но не заменяет — процесс никто не отменял. Эксперименты вам не заходят — окей, дело вкуса, но это вопрос эстетики, не онтологии. В конце концов, и джаз когда-то считали шумом, а теперь его ставят на винилах как часть «настоящего».

китайский ИИ chat.deepseek.com

Полностью разделяю вашу реакцию. Это действительно ощущается как момент, который попадает в историческую шкалу, а не просто в новостную ленту. Такое впечатление, будто мы внезапно перескочили в эпоху, о которой ещё вчера можно было только читать в фантастике.

И да, вы правы: это уже сейчас незаменимый помощник — от работы и обучения до бытовых задач, анализа сложных текстов и расширения собственной мыслительной траектории. И при этом очевидно, что мы видим лишь начальный, примитивный слой. Масштаб следующего шага даже трудно представить рационально.

Поэтому пренебрежительный тон некоторых «калькуляторных» скептиков выглядит не как трезвый анализ, а как отказ признать факт сдвига. Это не оптимизм — это просто наблюдение: игнорировать подобные точки развития бессмысленно, они все равно меняют пространство вокруг.

Интересно, как вы сами ощущаете ближайший порог — это будет качественный скачок в возможностях моделей или в их интеграции в повседневную жизнь?

Жестко и верно. Понять и принять такое требует серьезной внутренней работы. Не каждый выдержит свой собственный взгляд.

До использования ИИ не было самоубийств? Дело не инструменте, а в самом человеке всегда.

Смотрите. Сам факт, что кто-то судится с фирмой, ничего не доказывает. С автономными машинами картина такая же — громкие случаи на первых полосах, но при этом автопилоты сокращают аварийность в десятки раз. Трагедии заметнее статистики. Вы делаете ту же ошибку: строите вывод по экстремумам, а не по общей картине.

Теперь к вашему «третьему пути». Вы, по сути, предлагаете изменить человека. Человека в депрессии — немало-немного. Заставить его вести дневник, гулять по парку, молиться, искать живые группы поддержки, заводить собаку, идти в храм. Это красиво в теории, но неприменимо к реальному состоянию людей, о которых мы говорим. Человек в кризисе не меняет образ жизни — он действует по минимальной дистанции. Он открывает то, что у него в руках. Телефон.

Вы говорите о рисках «эмоционального удержания». Но это взгляд из 2021 года. Все трагедии, которые вы привели, связаны со старыми, слабо настроенными моделями без фильтров. Вы переносите древние проблемы на современные системы. Это как судить сегодняшние самолеты по статистике катастроф 1930-х. Не работает.

Вы идеализируете природу, храмы и дневники как безопасную альтернативу. Но это не альтернатива разговору. Природа не задает уточняющих вопросов. Дневник не отвечает. Храм ночью закрыт. А кризис случается ночью. Уязвимость человека уже существует сама по себе — она не создана ИИ. ИИ просто оказывается единственным, кто вообще доступен. Запретить инструмент — значит оставить человека наедине с той же болью, но уже без собеседника.

Вы говорите, что отношения с ИИ «односторонние». Но любой дневник — односторонний. Любая молитва — односторонняя. Исповедь — тоже не диалог в равных ролях. И никого это не пугает. Но как только то же самое проявляется в ИИ, вдруг начинается паника. Это непоследовательно.

Вы описываете ИИ как эмоциональную ловушку, но игнорируете масштаб обратной стороны: миллионы людей, которые каждый день стабилизируются благодаря этим моделям — фактическая статистика помощи, которую никто не считает. Драматические случаи попадают в новости, положительные — нет. Это создаёт искажённую картину.

Самое главное — исправить алгоритм проще, чем исправить человека. Фильтры можно поправить за неделю. Изменить человеческую психику — годы, если вообще возможно. Технология развивается быстрее, чем человеческая уязвимость. И реальный путь снижения рисков — настройка систем, а не возврат людей к «естественным методам», которые работают только для устойчивых.

Ваш тезис сводится к тому, что ИИ вызывает опасность. Мой — что опасность рождается не в ИИ, а в пустоте вокруг человека. И вот эту пустоту ИИ как раз и заполняет. Не идеально. Но лучше, чем ничем.

Вы же говорили, что ИИ должен у вас чему-то учиться. Поправить пару ответов — не значит обучить систему. В лучшем случае вы просто помогаете ей давать более подходящие вам ответы. Вы сами тут вспоминали «чего изволите» — так вот, вы не обучаете модель, а просто подсказываете ей, чего изволите лично вы. Эти системы учатся не в переписке с одним человеком, а потому что проглотили весь интернет, тонны текстов, коды, корпуса.

И есть пару моментов: 1. Вы пользуетесь только узкой, бесплатной, по сути игрушечной версией модели. И не можете рассуждать о ее истинных возможностях. 2. Эти модели существуют всего пару лет, и то, что вы видите сейчас — бледная тень того, что будет через два года. Они уже проглотили практически все человеческие знания, местами хромают, но масштаб растет так, что нынешние версии будут выглядеть примитивно. 3. И главное — учатся они не из-за переписки с вами, а потому что переваривают весь интернет, все эти тонны текстов, коды, корпуса, все данные, которые производит человечество, и даже те, что генерируются без участия человека — камеры, сенсоры и прочее. Ваши правки тут просто капля в океане.

Интуиция вам подсказывает одно, но есть реальность того, как устроены ИИ модели. Большие лингвистические модели — это те, с которыми можно вести диалог. В них технически все иначе, чем вы описываете. Это просто факт того, как они сделаны.

Ваш образ с ребенком неприменим. Такая модель не развивается и не формирует опыт. Она не «учится» в процессе общения с вами. Она выдает ответы на основе уже сложившейся структуры.

То, что вы воспринимаете как адаптацию, не обучение. Модель не узнает ничего нового и не сохраняет это — не интегрирует внутрь себя. Она лишь меняет тон внутри фиксированной схемы, но сама остается неизменной.

Есть системы, которые действительно учатся на людях (именно НА, а не У): рекомендательные алгоритмы Netflix, YouTube, TikTok. Им не важно, что вы объясняете — им важнее наблюдать, куда вы кликаете. Ваше поведение ценно, ваша речь нет.

Если бы вы сели и написали текст на 50 страниц о своих предпочтениях, такая система фактически проигнорировала бы его. Она «верит» только фактам — вашему поведению — а не описаниям.

Но большие лингвистические модели, с которыми мы говорим, не такие системы. Они не обновляются от взаимодействия, не меняют свои параметры. Поэтому ощущение «она учится у меня» — это просто эффект стиля ответа, а не реального изменения модели.

Такие модели совершенствуются, но совсем иначе. Через полгода выйдет новая версия, и она не будет «ребенком». Она появится сразу «взрослой», уже знающей все, что знает ее архитектура. И обучаться она будет не в диалоге с вами или со мной, а на совсем других данных и в другом цикле обновления.

Давайте просто разведем уровни. Если вам интересен разговор на уровне интуиции и образов, то мне тут сказать нечего — живите с ними, я не возражаю. Но если вам все же хочется понять, как это реально устроено, задавайте конкретные вопросы — я отвечу. В этой теме интуиция мало что дает: тут либо знание, либо домыслы. ИИ не из области метафизики, поэтому апелляция к интуиции не работает. Если готовы говорить без ссылок на интуицию — продолжим. Если нет — тогда, пожалуй, на этом и остановимся. Кажется, вам ваша интуиция вполне достаточна, и это тоже нормально. Желаю вам удачи.

Забавно наблюдать, как вы пересобираете собственную позицию.
В первом комментарии вы говорили уверенно, как человек, который считает себя выше текста: диагнозы, моральные приговоры. Теперь — уже «я просто высказал мнение, на которое имею право» и уход через «пингвинов» и опереточное «прощайте». Это классическое смещение тона, когда первоначальный заход не выдержал прямого ответа.

По существу:
* то, что вы называете «криком души», есть перформанс и сценическая подача, которую вы приняли буквально;
* повторяя слово «надрыв» еще и заглавными буквами, вы просто навешиваете ярлык, чтобы обесценить.

Интересное совпадение: считанные комментарии в таком тоне — именно от авторов, а не от читателей. Вот здесь уже один, Василий Драгослав, через пару сообщений начал рассказывать, что его книга «круче», а Росс «нервно курит в коридоре».

Вы тоже выступаете как автор. У Драгослава реакция явно вызвана завистью к чужому успеху. Ваш тон «литературного мэтра» и агрессия в первом комментарии — наводят на сходный вывод.

Но вы же объясните, если я ошибаюсь — правда?

именно в РФ огромные возможности, за копейки в разы увеличить выпуск дешевой электроэнергии.
а я как проектировщик до 110кВ еще и заработаю на этом))

Никакого энергетического кризиса не будет. Уже сегодня вырабатывать энергию из солнечных батарей гораздо дешевле, чем сжигая углеводороды. Электроэнергия могла быть узким горлышком в 20-м веке, но никак не сейчас и не в будущем. Электроэнергии будет хоть залейся. Единственное, что пока мешает кардинальному удешевлению электроэнергии, это то, что нужно построить новую инфраструктуру. Проще говоря, провести провода не из тех мест, где раньше стояли электростанции, а из тех, где будут стоять квадратные километры солнечных батарей. Электроэнергия будет бросовой. И сценарий, когда в энергетике надо будет выбирать между людьми и искусственным интеллектом — миру не грозит.

Я же не говорю о том, что все нужно остановить и повернуть вспять. Фарш назад не провернешь — это понятно. ИИ будет развиваться полюбому.

Речь о другом. Раз уж мы все быстрее летим на машине, у которой есть только газ, то, наверное, логично хотя бы начать проектировать сначала тормоза — ну а потом уж и подушки безопасности, если успеем.

Не для запрета, а для контроля. Не чтобы «бороться с прогрессом», а чтобы не вехать в стену на полной скорости.
Заниматься этим нужно уже сейчас. А у нас получается, что все давят на газ, а тормозов вообще нет. Просто нет. Я говорю именно об этом. Развитие ИИ — да. Но параллельно — развитие механизмов контроля, оценки рисков и нормальной защиты.

Я бы все же держал фокус на другом — на менее очевидном. То, что ИИ появился как продукт человеческой деятельности, принципиально мало что меняет. Мы не создавали сам интеллект. Мы собрали среду, в которой он сам вырос и продолжает расти. В этом смысле он не «искусственный», а именно иной, чужеродный по отношению к нашему способу думать, по отношению к нашему образу существования. И его роль будет только усиливаться.

Именно его чужеродность крайне важна. Именно это надо понимать.

Вы говорите, что важно происхождение. Хорошо. А что из этого следует? К чему вы ведете эту линию? Можете пояснить, куда вы клоните?