Давно хотел добраться до тестирования LLM-ок на RockChip'ах. А тут ещё недавно прислали RK3576 на халяву для видео. Так что решил совместить.
В этом видео:
1) Сравнение RK3588 и RK3576 для LLM-ок
2) Гайд по запуску и возможностям RKLLM
3) Обзор платформы 3576
https://youtu.be/RXDwdOtfog4
В этом видео:
1) Сравнение RK3588 и RK3576 для LLM-ок
2) Гайд по запуску и возможностям RKLLM
3) Обзор платформы 3576
https://youtu.be/RXDwdOtfog4