Сейчас по чатам расходится эта ссылка. GPT-4 это ансамбль.

https://twitter.com/soumithchintala/status/1671267150101721090



Все хлопают в ладоши и ставят огоньки и лайки. Но лишь в паре люди задались вопросами:



1. Эксперты это что? Если МоЕ оно так не работает оно внутри одной модельки, следует что-то своё подразумевается.



2. Далее 8 копий на разных данных и тасках. Сколько тасок на копию 2? Раз 16 вызовов на 8.  Или это двушаговый CoT ?



Предлагаю обсудить в комментариях данный пост.