[Pytorch/에러 해결] [enforce fail at cpuallocator.cpp:68] . defaultCPUallocator: can't allocate memory: you tried to allocate 8247153600 bytes. error code 12 (cannot allocate memory)

CPU가 감당 못하는 너무 큰 메모리를 할당하려고 할 때 발생하는 에러다. 나는 batch_size 256으로 학습시킨 모델을 불러와 inference를 시도할 때 발생했다. 비슷한 경우를 찾아본 결과 대부분 모델 자체의 batch_size를 작게 함으로써 해결할 수 있는 것으로 보인다. 나 역시 64로 batch를 줄여 해결했다.