π₯ Π‘Π»ΡΡ
: Π½ΠΎΠ²Π°Ρ Π²ΠΈΠ΄Π΅ΠΎΠΊΠ°ΡΡΠ° HUAWEI ΡΠΎΡΡΠ°Π²ΠΈΡ ΠΊΠΎΠ½ΠΊΡΡΠ΅Π½ΡΠΈΡ NVIDIA
Π ΡΠ°ΠΌΠΊΠ°Ρ Π€ΠΎΡΡΠΌΠ° ΠΊΠΈΡΠ°ΠΉΡΠΊΠΈΡ ΠΏΡΠ΅Π΄ΠΏΡΠΈΠ½ΠΈΠΌΠ°ΡΠ΅Π»Π΅ΠΉ 2023 Π³ΠΎΠ΄Π° ΠΎΡΠ½ΠΎΠ²Π°ΡΠ΅Π»Ρ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ HKUST Xunfei ΠΡ Π¦ΠΈΠ½ΡΡΠ½ Π·Π°ΡΠ²ΠΈΠ», ΡΡΠΎ HUAWEI ΡΠ°Π±ΠΎΡΠ°Π΅Ρ Π½Π°Π΄ ΡΠΎΠ·Π΄Π°Π½ΠΈΠ΅ΠΌ ΡΠΎΠ±ΡΡΠ²Π΅Π½Π½ΡΡ Π³ΡΠ°ΡΠΈΡΠ΅ΡΠΊΠΈΡ ΠΏΡΠΎΡΠ΅ΡΡΠΎΡΠΎΠ². ΠΠΎ Π΅Π³ΠΎ ΡΠ»ΠΎΠ²Π°ΠΌ, ΡΠΈΡΠΌΠ΅Π½Π½ΡΠ΅ GPU, ΠΎΡΠΈΠ΅Π½ΡΠΈΡΠΎΠ²Π°Π½Π½ΡΠ΅ Π½Π° ΡΠ°Π±ΠΎΡΡ Ρ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΠ΅Π²ΡΠΌΠΈ Π²ΡΡΠΈΡΠ»Π΅Π½ΠΈΡΠΌΠΈ, Π½Π΅ Π±ΡΠ΄ΡΡ ΡΡΡΡΠΏΠ°ΡΡ ΡΠ΅ΡΠ΅Π½ΠΈΡΠΌ NVIDIA A100.
Π’Π΅Ρ Π½ΠΈΡΠ΅ΡΠΊΠΈΡ ΠΏΠΎΠ΄ΡΠΎΠ±Π½ΠΎΡΡΠ΅ΠΉ Π±ΠΈΠ·Π½Π΅ΡΠΌΠ΅Π½ Π½Π΅ ΡΠΎΠΎΠ±ΡΠΈΠ», Π½ΠΎ ΠΎΡΠΌΠ΅ΡΠΈΠ», ΡΡΠΎ ΡΠΈΡΠΌΠ΅Π½Π½ΡΠ΅ GPU Π±ΡΠ΄ΡΡ ΠΈΠΌΠ΅ΡΡ ΠΌΠΎΡΠ½ΡΡ Π°ΠΏΠΏΠ°ΡΠ°ΡΠ½ΡΡ ΠΏΠ»Π°ΡΡΠΎΡΠΌΡ, ΠΈ ΡΠΌΠΎΠ³ΡΡ ΡΠ°Π±ΠΎΡΠ°ΡΡ Ρ Π±ΠΎΠ»ΡΡΠΈΠΌΠΈ ΡΠ·ΡΠΊΠΎΠ²ΡΠΌΠΈ ΠΌΠΎΠ΄Π΅Π»ΡΠΌΠΈ β Π½Π°ΠΏΡΠΈΠΌΠ΅Ρ, GPT-3 ΠΈ GPT-4. ΠΡΠΎ, ΠΏΠΎ Π΅Π³ΠΎ ΡΠ»ΠΎΠ²Π°ΠΌ, ΡΡΠ°Π½Π΅Ρ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΡΠΌ Π±Π»Π°Π³ΠΎΠ΄Π°ΡΡ ΡΠΎΡΡΡΠ΄Π½ΠΈΡΠ΅ΡΡΠ²Ρ Π²Π΅Π½Π΄ΠΎΡΠ° Ρ Π΄ΡΡΠ³ΠΈΠΌΠΈ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΡΠΌΠΈ, ΡΠΏΠ΅ΡΠΈΠ°Π»ΠΈΠ·ΠΈΡΡΡΡΠΈΠΌΠΈΡΡ Π½Π° ΠΠ-ΠΏΡΠΎΠ΄ΡΠΊΡΠ°Ρ .
Π‘ΠΎΠ³Π»Π°ΡΠ½ΠΎ ΠΈΡΡΠΎΡΠ½ΠΈΠΊΡ, Π½ΠΎΠ²ΠΈΠ½ΠΊΠ° HUAWEI ΡΠΌΠΎΠΆΠ΅Ρ ΠΊΠΎΠ½ΠΊΡΡΠΈΡΠΎΠ²Π°ΡΡ Ρ NVIDIA A100, ΠΏΡΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡΠ΅Π»ΡΠ½ΠΎΡΡΡ ΠΊΠΎΡΠΎΡΠΎΠΉ ΡΠΎΡΡΠ°Π²Π»ΡΠ΅Ρ ΠΎΠΊΠΎΠ»ΠΎ 19,5 Π’ΡΠ»ΠΎΠΏΡ (FP32). Π‘Π°ΠΌΠ° HKUST Xunfei ΡΠ°ΠΊΠΆΠ΅ Π³ΠΎΡΠΎΠ²ΠΈΡΡΡ ΠΏΡΠ΅Π΄ΡΡΠ°Π²ΠΈΡΡ ΠΠ-ΠΌΠΎΠ΄Π΅Π»Ρ ΠΎΠ±ΡΠ΅Π³ΠΎ Π½Π°Π·Π½Π°ΡΠ΅Π½ΠΈΡ, ΠΊΠΎΡΠΎΡΠ°Ρ ΠΏΠΎΠ·ΠΈΡΠΈΠΎΠ½ΠΈΡΡΠ΅ΡΡΡ ΠΊΠ°ΠΊ Π°Π»ΡΡΠ΅ΡΠ½Π°ΡΠΈΠ²Π° ChatGPT β ΠΏΡΠ΅ΠΌΡΠ΅ΡΠ° Π½Π°ΠΌΠ΅ΡΠ΅Π½Π° Π½Π° 24 ΠΎΠΊΡΡΠ±ΡΡ.
ΠΠ·Π²Π΅ΡΡΠ½ΠΎ, ΡΡΠΎ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΡ Π±ΡΠ΄Π΅Ρ Π΄ΠΎΡΡΡΠΏΠ½Π° Π½Π° ΠΊΠΈΡΠ°ΠΉΡΠΊΠΎΠΌ ΠΈ Π°Π½Π³Π»ΠΈΠΉΡΠΊΠΎΠΌ ΡΠ·ΡΠΊΠ°Ρ . Π‘ΡΠ°Π²Π½Π΅Π½ΠΈΠ΅ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎΡΡΠ΅ΠΉ ΡΠ²ΠΎΠ΅ΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ Ρ GPT-4 ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΡ ΠΏΠ»Π°Π½ΠΈΡΡΠ΅Ρ ΠΏΡΠΎΠ²Π΅ΡΡΠΈ Π² ΠΏΠ΅ΡΠ²ΠΎΠΉ ΠΏΠΎΠ»ΠΎΠ²ΠΈΠ½Π΅ 2024 Π³ΠΎΠ΄Π°.
Π ΡΠ°ΠΌΠΊΠ°Ρ Π€ΠΎΡΡΠΌΠ° ΠΊΠΈΡΠ°ΠΉΡΠΊΠΈΡ ΠΏΡΠ΅Π΄ΠΏΡΠΈΠ½ΠΈΠΌΠ°ΡΠ΅Π»Π΅ΠΉ 2023 Π³ΠΎΠ΄Π° ΠΎΡΠ½ΠΎΠ²Π°ΡΠ΅Π»Ρ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ HKUST Xunfei ΠΡ Π¦ΠΈΠ½ΡΡΠ½ Π·Π°ΡΠ²ΠΈΠ», ΡΡΠΎ HUAWEI ΡΠ°Π±ΠΎΡΠ°Π΅Ρ Π½Π°Π΄ ΡΠΎΠ·Π΄Π°Π½ΠΈΠ΅ΠΌ ΡΠΎΠ±ΡΡΠ²Π΅Π½Π½ΡΡ Π³ΡΠ°ΡΠΈΡΠ΅ΡΠΊΠΈΡ ΠΏΡΠΎΡΠ΅ΡΡΠΎΡΠΎΠ². ΠΠΎ Π΅Π³ΠΎ ΡΠ»ΠΎΠ²Π°ΠΌ, ΡΠΈΡΠΌΠ΅Π½Π½ΡΠ΅ GPU, ΠΎΡΠΈΠ΅Π½ΡΠΈΡΠΎΠ²Π°Π½Π½ΡΠ΅ Π½Π° ΡΠ°Π±ΠΎΡΡ Ρ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΠ΅Π²ΡΠΌΠΈ Π²ΡΡΠΈΡΠ»Π΅Π½ΠΈΡΠΌΠΈ, Π½Π΅ Π±ΡΠ΄ΡΡ ΡΡΡΡΠΏΠ°ΡΡ ΡΠ΅ΡΠ΅Π½ΠΈΡΠΌ NVIDIA A100.
Π’Π΅Ρ Π½ΠΈΡΠ΅ΡΠΊΠΈΡ ΠΏΠΎΠ΄ΡΠΎΠ±Π½ΠΎΡΡΠ΅ΠΉ Π±ΠΈΠ·Π½Π΅ΡΠΌΠ΅Π½ Π½Π΅ ΡΠΎΠΎΠ±ΡΠΈΠ», Π½ΠΎ ΠΎΡΠΌΠ΅ΡΠΈΠ», ΡΡΠΎ ΡΠΈΡΠΌΠ΅Π½Π½ΡΠ΅ GPU Π±ΡΠ΄ΡΡ ΠΈΠΌΠ΅ΡΡ ΠΌΠΎΡΠ½ΡΡ Π°ΠΏΠΏΠ°ΡΠ°ΡΠ½ΡΡ ΠΏΠ»Π°ΡΡΠΎΡΠΌΡ, ΠΈ ΡΠΌΠΎΠ³ΡΡ ΡΠ°Π±ΠΎΡΠ°ΡΡ Ρ Π±ΠΎΠ»ΡΡΠΈΠΌΠΈ ΡΠ·ΡΠΊΠΎΠ²ΡΠΌΠΈ ΠΌΠΎΠ΄Π΅Π»ΡΠΌΠΈ β Π½Π°ΠΏΡΠΈΠΌΠ΅Ρ, GPT-3 ΠΈ GPT-4. ΠΡΠΎ, ΠΏΠΎ Π΅Π³ΠΎ ΡΠ»ΠΎΠ²Π°ΠΌ, ΡΡΠ°Π½Π΅Ρ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΡΠΌ Π±Π»Π°Π³ΠΎΠ΄Π°ΡΡ ΡΠΎΡΡΡΠ΄Π½ΠΈΡΠ΅ΡΡΠ²Ρ Π²Π΅Π½Π΄ΠΎΡΠ° Ρ Π΄ΡΡΠ³ΠΈΠΌΠΈ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΡΠΌΠΈ, ΡΠΏΠ΅ΡΠΈΠ°Π»ΠΈΠ·ΠΈΡΡΡΡΠΈΠΌΠΈΡΡ Π½Π° ΠΠ-ΠΏΡΠΎΠ΄ΡΠΊΡΠ°Ρ .
Π‘ΠΎΠ³Π»Π°ΡΠ½ΠΎ ΠΈΡΡΠΎΡΠ½ΠΈΠΊΡ, Π½ΠΎΠ²ΠΈΠ½ΠΊΠ° HUAWEI ΡΠΌΠΎΠΆΠ΅Ρ ΠΊΠΎΠ½ΠΊΡΡΠΈΡΠΎΠ²Π°ΡΡ Ρ NVIDIA A100, ΠΏΡΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡΠ΅Π»ΡΠ½ΠΎΡΡΡ ΠΊΠΎΡΠΎΡΠΎΠΉ ΡΠΎΡΡΠ°Π²Π»ΡΠ΅Ρ ΠΎΠΊΠΎΠ»ΠΎ 19,5 Π’ΡΠ»ΠΎΠΏΡ (FP32). Π‘Π°ΠΌΠ° HKUST Xunfei ΡΠ°ΠΊΠΆΠ΅ Π³ΠΎΡΠΎΠ²ΠΈΡΡΡ ΠΏΡΠ΅Π΄ΡΡΠ°Π²ΠΈΡΡ ΠΠ-ΠΌΠΎΠ΄Π΅Π»Ρ ΠΎΠ±ΡΠ΅Π³ΠΎ Π½Π°Π·Π½Π°ΡΠ΅Π½ΠΈΡ, ΠΊΠΎΡΠΎΡΠ°Ρ ΠΏΠΎΠ·ΠΈΡΠΈΠΎΠ½ΠΈΡΡΠ΅ΡΡΡ ΠΊΠ°ΠΊ Π°Π»ΡΡΠ΅ΡΠ½Π°ΡΠΈΠ²Π° ChatGPT β ΠΏΡΠ΅ΠΌΡΠ΅ΡΠ° Π½Π°ΠΌΠ΅ΡΠ΅Π½Π° Π½Π° 24 ΠΎΠΊΡΡΠ±ΡΡ.
ΠΠ·Π²Π΅ΡΡΠ½ΠΎ, ΡΡΠΎ Π½Π΅ΠΉΡΠΎΡΠ΅ΡΡ Π±ΡΠ΄Π΅Ρ Π΄ΠΎΡΡΡΠΏΠ½Π° Π½Π° ΠΊΠΈΡΠ°ΠΉΡΠΊΠΎΠΌ ΠΈ Π°Π½Π³Π»ΠΈΠΉΡΠΊΠΎΠΌ ΡΠ·ΡΠΊΠ°Ρ . Π‘ΡΠ°Π²Π½Π΅Π½ΠΈΠ΅ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎΡΡΠ΅ΠΉ ΡΠ²ΠΎΠ΅ΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ Ρ GPT-4 ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΡ ΠΏΠ»Π°Π½ΠΈΡΡΠ΅Ρ ΠΏΡΠΎΠ²Π΅ΡΡΠΈ Π² ΠΏΠ΅ΡΠ²ΠΎΠΉ ΠΏΠΎΠ»ΠΎΠ²ΠΈΠ½Π΅ 2024 Π³ΠΎΠ΄Π°.