Разобрался вроде сам. Если кому понадобится сие дело, то добавил всего две строчки в клиент и изменил одну строчку сервера.
Для клиента:
Код:
IdTCPClient1.IOHandler.WriteBufferOpen;
IdTCPClient1.IOHandler.Write(mem);
IdTCPClient1.IOHandler.WriteBufferClose;
Для сервера (просто добавил параметра два):
Код:
AContext.Connection.IOHandler.ReadStream(mem,-1,true);