https://arxiv.org/abs/2504.17004

забавно: обнаружение галлюцинаций невозможно в современных LLM в принципе, какой бы механизм self-evaluation не применялся.

Правильно ли я понимаю, что без достаточного уровня RLHF человеком, LLM будет галлюцинировать только больше со временем, и ничего с этим не сделать никак?

И ещё: получается, что чем жирнее LLM становится (то есть, чем больше данных в тренинг запихивается), тем хуже будет ситуация становиться?

Значит ли это, что коллапс моделей неизбежен, если не вкладывать всё больше и больше денег в человеческую RLHF?

Sharovatov

https://arxiv.org/abs/2504.17004

забавно: обнаружение галлюцинаций невозможно в современных LLM в принципе, какой бы механизм self-evaluation не применялся.

Правильно ли я понимаю, что без достаточного уровня RLHF человеком, LLM будет галлюцинировать только больше со временем, и ничего с этим не сделать никак?

И ещё: получается, что чем жирнее LLM становится (то есть, чем больше данных в тренинг запихивается), тем хуже будет ситуация становиться?

Значит ли это, что коллапс моделей неизбежен, если не вкладывать всё больше и больше денег в человеческую RLHF?

arXiv.org

(Im)possibility of Automated Hallucination Detection in Large...

Is automated hallucination detection possible? In this work, we introduce a theoretical framework to analyze the feasibility of automatically detecting hallucinations produced by large language...

👍20❤1

hottg.com/vsharovatov/756

3.89K viewsVitaly Sharovatov, edited  May 5 at 19:03