En 1934 un grupo de jóvenes creo un equipo de fútbol en el Orlando Boys Club.
En 1937, Andries 'Pele Pele' Mkhwanazi, un instructor de boxeo que sabía reconocer el talento futbolístico, animó a la formación de un equipo de fútbol que compitiera en las ligas menores de la Johannesburg Bantu Football Association (JBFA); así, los precursores del Pirates iniciaron su andadura como federados en 1938 (aún sin calzado ni uniformes), y en 1939 se separaron del Orlando Boys Club para seguir la andadura como Pirates F.C.

El club fue parte importante de la entonces oprimida comunidad negra sudafricana, y además del desarrollo de la actividad deportiva el club también se preocupó de desempeñar una importante labor social.

En 1945 el Pirates fundó la Orlando African Football Association para ayudar al desarrollo del fútbol en la localidad, pasando a formar parte de la South African Soccer League en KwaZulu Natal porque era una Liga sin distinciones raciales (que sí que las había en otras competiciones sudafricanas).

En 1951 los Pirates se incorporan a la JBFA, y contribuyen al desarrollo espectacular de la competición, que a lo largo de los años 50 adquiere un gran prestigio.
Es ese mismo año cuando los Pirates ganan su primer gran título, la S.A. Robertson Cup, tras vencer 3-0 al C.V. Rangers en un partido de desempate (después de un empate a dos).
En 1952 ganaron las tres competiciones que disputaron: la Liga JBFA, de nuevo la SA Robertson Cup, y la Transvaal Challenge Cup.
En 1953 vuelven a ganar la S.A. Robertson Cup, ante el Moonlight Darkies (el mismo rival que en 1952) en la prórroga. A partir de ahí, las competiciones se rinden al poderío del Pirates F.C. que comienza un periodo de hegemonía insultante.

Pirates F.C. en 1953, posando con su colección de trofeos. De pie: W. Msomi, D. Kumalo, S. Sehlako, Pat Nxumalo, J. Sibiya, J. Mazibuko, S. Shabangu, M. Modisane, E. Buthelezi. Sentados: S. Mabuza, S. Mposhe, Z. Ramelo, J. Sobi, e I. Mothei.

A mitad de los años 50, el Corrugated Rovers (el actual Moroka Swallows) planta cara al Pirates y se convierte en un encarnizado rival, lo que hará vivir algunos enfrentamientos violentos entre las aficiones.
En los años 60 se incorpora a la liga profesional de la S.A.S.L., pero no logra el título ningún año.
En 1961 aparece en escena David 'Oom Day' Motsamai, un adinerado mecenas que proporcionaría al club el transporte, los uniformes, etc. y todo el apoyo económico para que el club pudiera progresar cómodamente. Sin embargo, muy pronto el club se ve dividido en torno a este personaje, y se ve envuelto en una escisión tras la salida de Motsamai del club, seguido de algunos jugadores con los que fundó poco después el Black Pirates.

Durante los años 60 continúa el apogeo de la política del apartheid en Sudáfrica, lo que acarrea un problema tras otro al Orlando Pirates. Son años en los que la política eclipsa al deporte.

En 1973 el Orlando Pirates gana todos los trofeos: Liga (MPSL Castle League, para negros), Life Cip, BP Top Eight Cup, y el torneo Campeón de Campeones en una impresionante campaña con unos resultados espléndidos.
Durante los años 70, el Orlando Pirates vive una gran época y continúa recolectando trofeos, en dura pugna con sus encarnizados rivales, el Kaizer Chiefs.

Si bien los años ochenta no fueron muy exitosos en cuanto a trofeos, a mitad de los años noventa el club se convierte en toda una referencia en el continente africano; Sudáfrica ha abandonado ya su política de apartheid y sus equipos pueden competir en las competiciones internacionales. Así, consiguen ganar la Copa de África en 1995, la Castle Premiership en 1994, 2001 y 2003, la Supercopa Africana en 1996, el BP Top Eight en 1993, 1996 y 2000, la Castle Challenge en 1992, la Bob Save Superbowl en 1996, la Vodacom Challenge en 1999 y 2005, y la Charity Spectacular en 1993, 1995, 1997, 1999 y 2001.

La Copa de África de Clubes es el mayor éxito conseguido por el Orlando Pirates.

Su uniforme siempre ha sido negro y blanco, excepto en 1994/95 que con motivo de la liberación de Nelson Mandela, utilizó camiseta verde y amarilla.

Juegan en el estadio Ellis Park, inicialmente construido para rugby, en 1928. En 1982 fue reconstruido.