Основная мысль проста: большие языковые модели (в частности) и нейросети (в общем), создаваемые по образу и подобию, наследуют наше несовершенство. Это справедливо для любых обучающих выборок, структур нейросетей, целевых функций, используемых методов оптимизации и т.д.
Все ключевые идеи содержатся в рассказах. Если бы меня удовлетворяла тезисная форма изложения основных идей, то я изначально воспользовался бы именно этим способом донести свои мысли до читателя.
Владислав, благодарю за комментарий. Если я правильно понял Ваш посыл, то Вы говорите в том числе и о том, что рассказам не хватает проработки острых, приземленных, социально-ориентированных проблем, которые возникли с появлением ИИ уже сегодня. И я готов частично согласиться с этим. Можно «упрекнуть» рассказы и за некоторую отстранённость от реальности, за использование в сюжете далеко не новых идей, связанных, например, с цифровизацией сознания. Но цифровизация сознания и остальные, уже известные в научно-фантастической литературе идеи, были в данном случае всего лишь средством для раскрытия замысла, который я в итоге и хотел донести до читателя. Основной моей целью было привнести новое, как мне казалось или кажется, новое, связанное прежде всего с появлением так называемых больших языковых моделей.
Теперь по поводу проблем, которые, как Вы сказали, не были затронуты (не знаю, что именно Вы вкладывали в понятия: «предвзятость, зависимость, манипуляция данными», когда писали рецензию; буду использовать своё понимание этих терминов). Если Вы, например, возьмёте рассказ «Антипрометей», то можно сказать, что косвенно там рассматривается и вопрос манипулирования данными. Траектории истины от Рэя — это в том числе и попытка уйти от манипулирования данными; а последнее, в свою очередь, есть следствие того, что большие языковые модели обучаются на данных, которые сгенерировал человек. Несовершенство человека переходит в несовершенство системы, и далее, несовершенная система используется для обучения следующих поколений людей; как и говорил Харри, беседуя с Рэем. Большие языковые модели строятся по образу и подобию, и в этом самый главный «недостаток» нейросетей. И уже из этой общей постановки проблемы можно вывести много частных случаев или сюжетов, которые и будут затрагивать современные общественные проблемы. Не буду развивать эту мысль далее, переходя к концовке рассказа «Антипрометей», там, в принципе, всё достаточно прозрачно для понимания.
Рассказ о манкуртах: здесь вводится термин «креативная замкнутость», и это основная мысль рассказа. И опять же это напрямую связано с математической стороной современных нейросетей. Философии здесь, как Вы сказали, не намного больше, чем конкретики. И опять же, в рассказе присутствует общая формулировка. Для меня это прежде всего аналог найденной и доказанной математической теоремы из которой потом можно вывести достаточное количество следствий. Для меня гораздо важнее именно обнаружить и доказать такую теорему. А, вот, криосон, андроиды, дроны и прочее скупо описанное человеческое общество будущего это всего лишь инструмент, средство выражение основной идеи. Это вторично. И, тому же, шаблонно, как шаблонна идея восстания машин и т.п.
Рассказ «Когда закончится проект» — это прежде всего о том, что на смену эволюции Дарвина приходит эволюция иной природы, назовём это цифровой эволюцией (опять же, здесь — общая теорема на примере одной частной истории; и опять же, философии тут не больше, чем конкретики). Не буду развивать эту мысль далее. Думаю, этот рассказ не появился бы, не будь песни Леонарда Коэна. Для меня этот рассказ ещё и то, что Эйзенштейн называл в своё время аттракционом («монтаж аттракционов»). Именно по такому принципу сюжет и строился. По-сути, это сценарий для короткого метра. Всё будет смотреться намного эффектней, если перенести это на экран.
Не буду продолжать свои рассуждения, обращаясь к остальным рассказам сборника, просто замечу, что все рассказы построены именно по принципу изложенному выше.
Ещё раз спасибо Вам за потраченное время (на чтение или прослушивание рассказов) и за оставленный отзыв.
Все ключевые идеи содержатся в рассказах. Если бы меня удовлетворяла тезисная форма изложения основных идей, то я изначально воспользовался бы именно этим способом донести свои мысли до читателя.
Теперь по поводу проблем, которые, как Вы сказали, не были затронуты (не знаю, что именно Вы вкладывали в понятия: «предвзятость, зависимость, манипуляция данными», когда писали рецензию; буду использовать своё понимание этих терминов). Если Вы, например, возьмёте рассказ «Антипрометей», то можно сказать, что косвенно там рассматривается и вопрос манипулирования данными. Траектории истины от Рэя — это в том числе и попытка уйти от манипулирования данными; а последнее, в свою очередь, есть следствие того, что большие языковые модели обучаются на данных, которые сгенерировал человек. Несовершенство человека переходит в несовершенство системы, и далее, несовершенная система используется для обучения следующих поколений людей; как и говорил Харри, беседуя с Рэем. Большие языковые модели строятся по образу и подобию, и в этом самый главный «недостаток» нейросетей. И уже из этой общей постановки проблемы можно вывести много частных случаев или сюжетов, которые и будут затрагивать современные общественные проблемы. Не буду развивать эту мысль далее, переходя к концовке рассказа «Антипрометей», там, в принципе, всё достаточно прозрачно для понимания.
Рассказ о манкуртах: здесь вводится термин «креативная замкнутость», и это основная мысль рассказа. И опять же это напрямую связано с математической стороной современных нейросетей. Философии здесь, как Вы сказали, не намного больше, чем конкретики. И опять же, в рассказе присутствует общая формулировка. Для меня это прежде всего аналог найденной и доказанной математической теоремы из которой потом можно вывести достаточное количество следствий. Для меня гораздо важнее именно обнаружить и доказать такую теорему. А, вот, криосон, андроиды, дроны и прочее скупо описанное человеческое общество будущего это всего лишь инструмент, средство выражение основной идеи. Это вторично. И, тому же, шаблонно, как шаблонна идея восстания машин и т.п.
Рассказ «Когда закончится проект» — это прежде всего о том, что на смену эволюции Дарвина приходит эволюция иной природы, назовём это цифровой эволюцией (опять же, здесь — общая теорема на примере одной частной истории; и опять же, философии тут не больше, чем конкретики). Не буду развивать эту мысль далее. Думаю, этот рассказ не появился бы, не будь песни Леонарда Коэна. Для меня этот рассказ ещё и то, что Эйзенштейн называл в своё время аттракционом («монтаж аттракционов»). Именно по такому принципу сюжет и строился. По-сути, это сценарий для короткого метра. Всё будет смотреться намного эффектней, если перенести это на экран.
Не буду продолжать свои рассуждения, обращаясь к остальным рассказам сборника, просто замечу, что все рассказы построены именно по принципу изложенному выше.
Ещё раз спасибо Вам за потраченное время (на чтение или прослушивание рассказов) и за оставленный отзыв.