Не верьте ИИ. Он лжет!

[taanyabars]

Я уже давно подозревала это, начитавшись рассказов о чайных плантациях на Алтае и гидроэлектростанции в центре Москвы, она же "в сердце Большой Волги" или что-то в этом роде (так была интерпретирована ГЭС-2). Но то, что я прочитала в ЖЖ Леонида Каганова изумило даже после этого. Изумило настолько, что не могу молчать.
К сожалению, фотография не копируется без "танцев с бубном", поэтому желающих посмотреть на фотографию текста, который был предложен для распознавания ЧатГПТ-4, прошу пройти по ссылке. Остальным скажу, что это текст, написанный от руки, почерк относительно разборчивый и даже красивый, но фотография не очень качественная.

Короче говоря, Леонид предложил для расшифровки с помощью ЧатГПТ-4 автобиографию своего прадеда. Я честно постаралась прочесть всё, что смогла, тоже, как и ИИ, немного додумывала и исправляла ошибки - в пределах написания одного слова. Кроме того, у автора хорошо с правописанием, но плохо со знаками препинания, я их расставила сама. Вот, что у меня получилось - кстати, текст сам по себе интересный документ эпохи.


Автобиография
Я, Моисей Борисович Каганов, родился в 1879 году мая 10-го в местечке Гречин(?) Могилевской губ. Единственный сын своих родителей. Отец служащий, служил на водяной мельнице (неразб), вырос я в Курской губернии, учился мало в сельской школе село (???) Путивльского уезда и частично в г. Конотоп Черн. губ, (в) городской школе. Всего имею образование до 5-ти классов, учебного диплома не имею, так как я учился до 13-летнего возраста, но ввиду того что при отце в Курской губернии я проживать не имел права, (неразб), а платить за право учения в г. Конотопе мой отец не имел средств, то я был вынужден поступить на работу и вот с 13-летнего возраста я работал по найму, работал я по приемке зерна(?)
Последние 40 лет я прожил в г.Запорожье и работал также по хлебозаготовкам. 1941 и август (???) я эвакуировался из г. Запорожье совместно со своим сыном, который работает на Запорожском комбайнном заводе и был направлен с оборудованием комбайнного завода и приехал в г. Красноярск 2 декабря и с 18 декабря я работаю в г. Красноярске Край Загот (неразб) и на данный момент числюсь(?) Минзаг Пр Н-К ЖК (неразб)

А вот что сделал из этого текста ЧатГПТ-4


Автобиография

Я, Моисей Борисович Казакевич, родился в 1919 г. в местечке Негнев Могилевской губ(ернии). В одиннадцать лет осиротел, родителей потерял, остался на руках у тетки. Окончил начальную школу в Негневе и пошел работать.

Осенью 1931 г. уехал в Херсон и там поступил на работу в сельское хозяйство. Проработав до весны 1932 г., уехал в родные места. Работал на разных предприятиях в Могилеве. В 1934 г. весной поступил в трудовую школу в Бобруйске, учился 2 года. В 1936 г. поступил в ремесленное училище и в 1939 г. окончил его.

Весной 1939 г. поехал работать в Ленинград и там работал по специальности. Летом того же года уехал в Донбасс и работал на шахте до 1940 г. С весны 1940 г. работал по найму, занимался сельским хозяйством.

В июле 1940 г. призван в Красную Армию. Служил в Харькове в железнодорожных войсках. В августе 1941 г. попал в окружение и с большими потерями вышел к своим.

С октября 1941 г. работаю на лесозаготовках в Архангельской области. В феврале 1942 г. уехал на Урал, работал в колхозе.

С 18 декабря 1941 г. работаю в Краснодаре на заводе ЗИП и одновременно учусь в Краснодарском техникуме.

Член ВКП(б) с 1940 г.

Комментировать ЭТО я не в состоянии...

Comments

[pryanik.livejournal.com]

Бывает человеческий фактор, а тут — нечеловеческий.

[taanyabars.livejournal.com]

Но почему-то считает себя умнее

[ignorantis.livejournal.com]

Работает по алгоритмам, созданным человеком. Так что не такой прям нечеловеческий.

[pryanik.livejournal.com]

Да, но человек не оказывает прямое воздействие на результат его работы "на стороне исполнителя". Человек только составляет запрос, а на той стороне — только программа.

[taanyabars.livejournal.com]

Да, проблемы в общем, с людьми, а не с компьютерами. Согласна.

[gaechka63.livejournal.com]

Два разных человека

[taanyabars.livejournal.com]

Но одного выдают за другого

[gala-vrublevska.livejournal.com]

ИИ основан на текстах советской литературы, потому и уклон такой у него получился.

[taanyabars.livejournal.com]

Почему-то всем интересно, как такое могло получится и никого не волнует, почему ИИ придумывает факты, если не может справиться с заданием. Причем свою фантазию не ограничивает.

[gala-vrublevska.livejournal.com]

Фантазия ИИ так или иначе ограничена текстовыми прецедентами, заложенными в программу программистами.

[ein-arzt.livejournal.com]

Думается, что ИИ, распознав фамилию Казакевич, стал "сканировать" биографии однофамильцев, имеющиеся в сети. Весьма вероятно, если поискать, найдется что-то, похожее на изложенное. Собственно, т.н. ИИ пока ещё далеко не интеллект.

[taanyabars.livejournal.com]

Думается, что распознав Могилев, он придумал белорусскую фамилию: Казакевич плохо подходит даже по длине слова, тем более, что фамилия написана разборчиво.

ИИ далеко не интеллект, но похоже, мало кого волнует никого не волнует, что он придумывает факты, если не может справиться с заданием. А роль его в нашей жизни все возрастает.

[ignorantis.livejournal.com]

Как же он распознал в Каганове Казакевича? С какого, извините, бодуна?

[lady-tiana.livejournal.com]

Я несколько раз тестировала эту версию чата GPT, всегда получалась чушь. Судя по отзывам нескольких человек и тестам, проведенным с их помощью, следующая версия (платная) уже намного точнее, хотя там тоже некоторые косяки встречаются. Кроме того, как говорят, эту сеть нужно обучать и тренировать на своих задачах, тогда она научится выдавать максимально близкий к нужному результат. Но как это делается, я не знаю.

[taanyabars.livejournal.com]

Все пишут о том, почему программа ошибается и как это улучшить. Только меня ужасает, почему если программа не справляется, она выдает домыслы за факты?

[dinus.livejournal.com]

Я где-то в Сети встречала упоминания, что одна команда пыталась обучить программу с ИИ так, чтобы она вела себя так же, как планария (если помните, А.Н.Леонтьев считал, что с этого червячка начинается психика, проще не бывает). Не удалось. А вот на то, чтобы быть умнее человека претензии есть. Вот так авторы ИИ ценят людей и себя в том числе.

[taanyabars.livejournal.com]

Увы...

[ignorantis.livejournal.com]

Ну и дела. А то мало было невежества и всякой ерунды в головах и текстах, теперь ещё вот этот "помощник" появился.

[taanyabars.livejournal.com]

Вот!

Мне очень интересно, поисковики используют ИИ?

С какого-то момента они практически перестали находить то, что мне нужно (( Я уже привыкла.

[aywen.livejournal.com]

Насколько я понимаю, ЧатГПТ не распознаёт текст честным образом (для этого есть другие программы, они не идеальны, но отсебятины не пишут). Он получил картинку, он нашёл в базе похожие картинки (в которых, например, были похожие слова) и нашёл тексты, соответствующие этим картинкам, из этих текстов слепил нечто условно связное.

[taanyabars.livejournal.com]

Не думаю. У человека, родившегося в 19 веке, весьма своеобразный почерк. Вряд ли на основе сравнения картинок можно верно определить имя и отчество.

[mishemplushem.livejournal.com]

Комментировать ЭТО я не в состоянии...
Тоже. Я только тихо надеюсь: может, там еще была страничка и хоть что-то он с нее нарыл? Или, не знаю, с оборота проступило? А то совсем какой-то кошмарный сон.

[taanyabars.livejournal.com]

Я имела дело с результатами работы ИИ, выдаваемыми за личные тексты, и я уже не надеюсь, что это сон ((

[mrs-mcwinkie.livejournal.com]

Ничего ж себе. Не ожидала, что он так выдумывает.

[taanyabars.livejournal.com]

Увы и ах...