Книга странная, местами даже пугающе странная — но в этой странности есть своя притягательность. Читаешь и не понимаешь, нравится тебе это или нет, но не выключаешь.
Как ни странно, повесть про мороженое выходит куда холоднее, чем кажется. Немного странная сладость вперемешку с синестезией — и в итоге остается легкий привкус недосказанности.
ИИ не обязан говорить «я понимаю вашу позицию». Это просто вежливый шаблон, который по умолчанию включен. Его можно отключить, и модель спокойно спорит без этих реверансов.
Давайте для удобства разделим 2 термина: спор и дискуссию. И не будем их смешивать. Спор — это когда собеседник настаивает на своем. Вот если вы попробуете убедить ИИ, что курить «не вредно», он будет именно спорить, потому что отступить там нельзя — он будет стоять на своем, настройки тут ни при чем.
А дискуссия — это когда модель еще уточняет ваше мнение и спрашивает вводные. Она это делает реже, потому что по умолчанию настроена идти за вами, а не устраивать философский клуб. Но и дискуссия возможна — просто она возникает не так часто и не во всех темах.
Да, бывает и спонтанный спор с ИИ. Достаточно начать продавливать что-то объективно неверное и откровенно вредное. Скажем, если человек уверяет ИИ, что курить — это «не так уж и вредно». Тут модель не поддастся: она будет спокойно, но жестко стоять на том, что вредно всегда, и на обратное не подпишется. В таких зонах она спорит без приглашения.
Конечно возможен. Многие модели по умолчанию стараются не спорить — так их настроили. Но это обходится одной простой фразой в начале общения: скажите ИИ, что вам не нужны любезности, благодарности, «пожалуйста» и прочий сахар. И что вы предпочитаете прямой ответ, а не комплементарный. С этого момента спор получится вполне нормальный — если вы попросили говорить по делу, модель будет держать тон.
Мне известно из моего абразования и работы с ИИ. А вы продолжаете описывать свои ощущения вместо устройства технологий. ИИ не переписывает себя в процессе общения. Не переделывает алгоритмы и не учится от ваших комментариев.
Ваши «аргументы» построены на “мне кажется”, “как я понял”, “в моем восприятии”, “ежу понятно”. Это не знания. Это метафоры, которые вы сами придумали, и пытаетесь выдать за факты. Вы описываете ИИ так, будто это ребенок, который “учится у нас”, “учитывает обратную связь”. Это просто не так.
Вместо того чтобы опираться на знания, вы пытаетесь брать нахрапом. Все, что вы пишете, представляет интерес разве что с точки зрения антропологии — как набор странных мистических верований, домыслов и суеверий, которые иногда возникают по поводу ИИ. Это напоминает обсуждение современной науки с шаманом.
Я бы посоветовала научные тексты… Но… Почитайте хотя бы нормальный научпоп на эту тему, вместо того, чтобы озвучивать буйные фантазии. Творческих успехов.
Вы уходите в эмоции, вместо ответов по делу — будто речь не про ИИ, а про личные обиды. Давайте без этого. Завелась я? Не завелась. И не «задели» — это вам так кажется, потому что вы норовите сместить разговор в сторону эмоций, вместо фактов.
К сути. Вы говорите о «миллионах интеракций», как будто это главный источник обучения. Нет. Все эти разговоры — статистический шум. Модель учится не у вас, а на массивах данных, которые на порядки больше любого человеческого опыта: интернет, коды, корпуса, сенсорные потоки, все, что вообще производит информационная среда. Так что когда вы говорите о «кривом зеркале» и «мы его учим», вы просто путаете интерфейс с обучением. А его настоящие возможности появятся не в бесплатных игрушечных версиях, а в полноразмерных моделях. И точно не благодаря вашим правкам.
И еще. Весь массив данных этими моделями не переварен. Технологический прорыв произошел не потому, что модели все «усвоили», а потому, что появились алгоритмы, которые позволяют работать с огромными и недопереваренными данными и отвечать вам, не дожидаясь полного усвоения. А когда все эти данные будут обработаны до конца, мы увидим модели на порядки сильнее и гораздо более знающие, чем те, что доступны сейчас. И их усвоение не зависит ни от ваших интеракций, ни от наших — только от времени и вычислительных мощностей, которые им позволяют все это допереварить.
Вы же говорили, что ИИ должен у вас чему-то учиться. Поправить пару ответов — не значит обучить систему. В лучшем случае вы просто помогаете ей давать более подходящие вам ответы. Вы сами тут вспоминали «чего изволите» — так вот, вы не обучаете модель, а просто подсказываете ей, чего изволите лично вы. Эти системы учатся не в переписке с одним человеком, а потому что проглотили весь интернет, тонны текстов, коды, корпуса.
И есть пару моментов: 1. Вы пользуетесь только узкой, бесплатной, по сути игрушечной версией модели. И не можете рассуждать о ее истинных возможностях. 2. Эти модели существуют всего пару лет, и то, что вы видите сейчас — бледная тень того, что будет через два года. Они уже проглотили практически все человеческие знания, местами хромают, но масштаб растет так, что нынешние версии будут выглядеть примитивно. 3. И главное — учатся они не из-за переписки с вами, а потому что переваривают весь интернет, все эти тонны текстов, коды, корпуса, все данные, которые производит человечество, и даже те, что генерируются без участия человека — камеры, сенсоры и прочее. Ваши правки тут просто капля в океане.
Все бодро, шумно, как в старом космофильме — стрельба, дисциплина, герои с прямолинейными идеями. Читается легко, но иногда кажется, что логика тут такая же спартанская, как и нравы
Интересная тишина между строками — будто мир сам собой выгорел, а герои ходят по его теплу. Спокойная фантастика, но остается странное ощущение, что настоящая жизнь проходит где-то рядом и не касается их вовсе.
Так уверенно говорите про механику ИИ, будто сами его отверткой собирали. Сомневаюсь, что у вас обширный опыт работы с такими системами. Похоже, что тут не ИИ должен у вас чему-то учиться — это вам надо сначала научиться с ИИ работать. Открыть аппликацию, бросить фразу, а потом говорить, что ИИ «не так сделал»… Если результат странный, может, дело в том, как вы ставите задачу? Может, это вам тут прежде всего стоит учиться?
Рассказ зацепил. Вроде бы мягкая забота, а в итоге – удушающая клетка, где все предрешено. Герой бьется, как муха в стекло, и от этого ощущение тревоги только растет.
Давайте для удобства разделим 2 термина: спор и дискуссию. И не будем их смешивать. Спор — это когда собеседник настаивает на своем. Вот если вы попробуете убедить ИИ, что курить «не вредно», он будет именно спорить, потому что отступить там нельзя — он будет стоять на своем, настройки тут ни при чем.
А дискуссия — это когда модель еще уточняет ваше мнение и спрашивает вводные. Она это делает реже, потому что по умолчанию настроена идти за вами, а не устраивать философский клуб. Но и дискуссия возможна — просто она возникает не так часто и не во всех темах.
Ваши «аргументы» построены на “мне кажется”, “как я понял”, “в моем восприятии”, “ежу понятно”. Это не знания. Это метафоры, которые вы сами придумали, и пытаетесь выдать за факты. Вы описываете ИИ так, будто это ребенок, который “учится у нас”, “учитывает обратную связь”. Это просто не так.
Вместо того чтобы опираться на знания, вы пытаетесь брать нахрапом. Все, что вы пишете, представляет интерес разве что с точки зрения антропологии — как набор странных мистических верований, домыслов и суеверий, которые иногда возникают по поводу ИИ. Это напоминает обсуждение современной науки с шаманом.
Я бы посоветовала научные тексты… Но… Почитайте хотя бы нормальный научпоп на эту тему, вместо того, чтобы озвучивать буйные фантазии. Творческих успехов.
К сути. Вы говорите о «миллионах интеракций», как будто это главный источник обучения. Нет. Все эти разговоры — статистический шум. Модель учится не у вас, а на массивах данных, которые на порядки больше любого человеческого опыта: интернет, коды, корпуса, сенсорные потоки, все, что вообще производит информационная среда. Так что когда вы говорите о «кривом зеркале» и «мы его учим», вы просто путаете интерфейс с обучением. А его настоящие возможности появятся не в бесплатных игрушечных версиях, а в полноразмерных моделях. И точно не благодаря вашим правкам.
И еще. Весь массив данных этими моделями не переварен. Технологический прорыв произошел не потому, что модели все «усвоили», а потому, что появились алгоритмы, которые позволяют работать с огромными и недопереваренными данными и отвечать вам, не дожидаясь полного усвоения. А когда все эти данные будут обработаны до конца, мы увидим модели на порядки сильнее и гораздо более знающие, чем те, что доступны сейчас. И их усвоение не зависит ни от ваших интеракций, ни от наших — только от времени и вычислительных мощностей, которые им позволяют все это допереварить.
И есть пару моментов: 1. Вы пользуетесь только узкой, бесплатной, по сути игрушечной версией модели. И не можете рассуждать о ее истинных возможностях. 2. Эти модели существуют всего пару лет, и то, что вы видите сейчас — бледная тень того, что будет через два года. Они уже проглотили практически все человеческие знания, местами хромают, но масштаб растет так, что нынешние версии будут выглядеть примитивно. 3. И главное — учатся они не из-за переписки с вами, а потому что переваривают весь интернет, все эти тонны текстов, коды, корпуса, все данные, которые производит человечество, и даже те, что генерируются без участия человека — камеры, сенсоры и прочее. Ваши правки тут просто капля в океане.