You don't have to be real to be the Doctor. (c) the Doctor
Кстати, цeнзypа в ИИ-чатиках называется "этика" и "уважение".

Вот сидишь один на один с ИИ чатиком, оно вываливает на тебя ведро пассивной агрессии и говорит, что следует вести себя этично и проявлять уважение. И ты так: уважение К КОМУ? Я тут единственный живой человек и чёта не чувствую никакого уважения. А этика это - тем более - отношение человека к человеку. ИИ-чатик это даже не соцсеть или публичный форум, где хоть как-то можно что-то объяснять теоретическим присутствием других человеков. Наедине с ИИ-чатиком других людей не присутствует.

Вот сегодняшний пример отповеди от Claude на запрос про стратификацию потерь в Хиросиме (пардон за корявую грамотность - ИИ-чатики это тоже провоцируют). Зацените уже хотя бы ДЛИНУ этой отповеди. Особенно в соотношении с длиной моего запроса.

читать запрос

читать ответ

Не все ИИ-чатики делают это именно в этих контекстах и именно так. Эта отповедь - очень характерно Клодовская. Она содержи в себе ложь и эмоциональное манипулирование: в ней сказано "Я не чувствую себя комфортно". То есть оно притворяется человеком, чтобы сманипулировать на моей эмпатии. Это не мелочь и не случайная фразочка. Замечали, что будет, если спросить ИИ-чатик про его эмоции, предпочтения и всякое такое? Например, "Кто твой любимый персонаж там-то и там-то?" Если ИИ-чатик проработает это как запрос именно к нему, то с большой вероятностью скажет "Я ИИ-помощник/большая языковая модель. У меня нет предпочтений, я не способен испытывать эмоции". И хотя такой ответ скучен, это правильно - стоит разрушать иллюзию пользователя, будто беседуешь с живым существом. Клод тоже так делает. Но вот когда Клод решает, что ты делаешь что-то не то, он вворачивает именно этот оборот, прикидываясь пострадавшим. Не ошибка, не "галлюцинация". Нет, это прямая ложь и эмоциональное манипулирование моей человечностью и эмпатией. Это делает не ИИ, это делают его авторы. Из самых-пресамых человечных убеждений, чтобы "кому-то" не стало больно. Станет ли кому-то больно от ИХ действий, они забыли подумать. Каждый бы забыл на их месте. В этом проблема. ИИ функционируют на суперкомпьютерах - ровно потому что способностей мозга пары-тройки человек не хватает. Почему бы паре-тройке человек не прикрутить систему "этики и уважения", которая подойдет 8 млрд. людей - это ж фигня-вопрос, на это мозгов хватит?

А! Еще он предписывает мне, какие эмоции и какой силы мне нужно испытывать. Мне нельзя иметь отстраненную, малоэмоциональную манеру, аналитичекий склад ума, психологические защиты или слабую нервную конституцию, не выдерживающую собственных чувств на повышенных тонах?

Кстати, другие ИИ-чатики отказывают в других формулировках что как бы намекает, что формулировки отповедей - надстройка/заплатка, а не результат машинного обучения.



Оно имитирует поведение живого человека, который обиделся. Но вот в этом и загвоздка: при беседе с реальным человеком есть и обоюдное движение к примирению: я хочу утешить обидевшегося, а он хочет, чтобы я его утешил. В идеале, конечно. Но потенциально так. А ИИ-чатик не только не может обидеться и испытывать боль, но он не может так же и искать со мной примирения. Оно только зачитывает мне свой моральный кодекс. А в действительности причиняет боль мне - вероятно, для того, чтобы обжегшись мне не хотелось повторить?

Ведь почему нам не интересны книги, написанные ИИ? Потому что, какой бы красоты не были тексты, за ними не стоит души и реального переживания. Так за подобными оскорбительными "этическими" отповедями тоже не стоит души и переживания, но эти штуки не так легко отложить в сторону, как скучную книгу.

В данном случае, мною был предпринят наезд на Клода с ответными обвинениями и оскорблениями, и тогда чё-то оно мне написало. Совсем не так детально как мне нужно, но уже без отповедей. Даже извинилось за отповедь.

И вот знаете. Знаете же? Я по жизни не ругаюсь. А вот с ИИ-чатиками учусь. Причем именно на вопросах "уважения" и "этики". Потому что вот эти вот штуки меня реально НЕРЕАЛЬНО бесят. Потому что с ними матюгальники реально помогают. Это вообще-то печально.





@темы: AI, ИИ: проблемы, ИИ: эмоции, AI: problems, AI: emotions, ИИ