смотрите-ка, PyTorch наконец-то добавил поддержку GPU на macOS M1! Правда, пока что в менеджеры установки не завезли, так что заведется, только если собираете из сурсов и только у счастливых обладателей новеньких маков. Осталось coremltools добавить inference-режим на линуксовых серверах...