Советы как снизить потребление памяти в Pandas. Уже бывшие тут советы, но повторить их никогда не вредно: загружайте только нужные колонки, преобразуйте int в целые числа с меньшей разрядностью, преобразуйте object в category (при условии невысокой кардинальности данных в колонке это даст прирост)
https://pythonspeed.com/articles/pandas-load-less-data/
https://pythonspeed.com/articles/pandas-load-less-data/