QnA → Ответ на вопрос
похоже на RNN Lsten? Будет генериться до точки или до лимита слов (логический или физический конец)
Мы смотрим только на текущие слова для генерации следующих слов.
Generativee Pre-Training
Positional encoding - позиции слов в предложении
Если модель повторяет вопрос, то это красный флаг. Bot Hallucination
