Monumentalny gmach został wzniesiony po dziewięciu latach budowy. Ma on kształt krzyża równoramiennego, w którego środku znajduje się 35-metrowa wieża (niegdyś pełniła funkcję wieży ciśnień). Początkowo więzienie mogło pomieścić 520 skazanych, jednakże wkrótce w wyniku zmian koncepcji wychowawczych przebywało w nim już 700 skazańców.

Obiekt był kilkukrotnie przebudowywany i remontowany, m.in. w latach 1919, 1974-1980. Aktualnie w Zakładzie Karnym w Raciborzu może przebywać maksymalnie 812 więźniów. Raciborskie więzienie zaliczane jest do kategorii pierwszej, co oznacza, że znajdują się w nim skazani zarówno na krótkotrwałe, jak i na najsurowsze kary pozbawienia wolności.

W tutejszym areszcie śledczym przetrzymywany był Ryszard Niemczyk, polski gangster odpowiedzialny m.in. za kradzieże samochodów, porwania dla okupu, podpalenia, podkładanie bomb, napady na konwoje bankowe oraz udział w zabójstwie.