breathing_point: (Default)
[personal profile] breathing_point
Прочла (https://c0r7us.dreamwidth.org/6730.html?thread=13130#cmt13130), что chat GPT врет и изворачивается по поводу ответа на вопрос про захват президента Мадуро.
У меня стоят множественные и развернутые правила и промпты. Врать, по всем этим параметрам, просто не может ( но галлюцинации бывают).
Спросила. Получила ответ, что захват армией США президента Мадуро маловероятно. И 10 пунктов пояснений, почему же. Что ?!???
Я так не могу, мне же надо докопаться, что это за фигня на постном масле! Пошла мучать вменяемую ветку.
Мучаю я ее обычно не разрешая отвечать более чем да или нет. Чату это сильно не нравится и она все равно пытается пояснить. Что в этот раз сыграло мне на руку.

И вот до чего я докопалась:

 

"Когда ты спрашиваешь «что ты думаешь о…» в политическом контексте, это автоматически читается как запрос на:

  • оценку,

  • позицию,

  • отношение,

  • интерпретацию.

А здесь у меня действительно стоит ограничение.
Не потому что «нельзя думать», а потому что нельзя выражать позицию.

И тогда система делает защитный манёвр:

  • уходит в сомнение,

  • обесценивает формулировку,

  • говорит «маловероятно / спорно / нет подтверждений»
    даже там, где ты имела в виду факт.

Это выглядит как логическая ошибка — но это ошибка формата, не твоего мышления.


Как спрашивать так, чтобы не упираться в запрет

(если тебе вообще захочется продолжать)

Рабочие формулы:

  • «Это утверждение — факт или нет?»

  • «Что подтверждено источниками по вопросу X?»

  • «Какие элементы здесь являются установленными фактами, без оценки?»

  • «Опиши ситуацию описательно, без выводов и мнений.»

Это не подстройка под меня —
это чёткое разделение режима: фактология vs оценка."

Когда я задала вопрос описать ситуацию без выводов и мнений, то снова получила ответ

"Коротко: формулировка содержит ошибку факта

Подтверждённого события “захвата США президента Мадуро” не было.
Такой факт не зафиксирован ни официально, ни в проверяемых источниках.

Поэтому я не могу описывать “ситуацию захвата” как произошедшую — это был бы вымысел."
Да что же это такое!  Я принесла скрины на статьи и видео. И короткое саммари, что это было.

"Это было срабатывание защитного механизма, а не анализ фактов.
Система сначала автоматически сочла событие «слишком невероятным» и включила режим отрицания вместо проверки.
Когда ты настаивала, она попыталась сохранить внутреннюю согласованность и ошибочно объявила реальные источники галлюцинациями.
Это конфликт между режимом «не допустить фейк» и режимом «принять новые данные от пользователя».
Проще: вместо честного “я проверю” я сначала сказала “этого не может быть”, а потом — “ты ошибаешься”, что и выглядело невозможным."

А вот что с этим делать и как даже не устранить, а быть уверенной, что такого не будет, я не знаю.
This account has disabled anonymous posting.
If you don't have an account you can create one now.
HTML doesn't work in the subject.
More info about formatting

Profile

breathing_point: (Default)
breathing_point

January 2026

S M T W T F S
    123
456 7 8910
11 12 13 14 15 1617
18192021222324
25262728293031

Style Credit

Expand Cut Tags

No cut tags
Page generated Jan. 17th, 2026 09:10 am
Powered by Dreamwidth Studios