Secondo la maggior parte degli storici locali, la chiesa di Sant'Agostino venne fondata nel XIII secolo dai cavalieri Teutonici che effettivamente possedevano a Barletta una chiesa intitolata a S.Tommaso con annesso un ospedale, ma l'identificazione con l'attuale chiesa di S.Agostino è un'ipotesi poco attendibile. Nel 1289, una bolla di Niccolò IV concedeva indulgenze a quanti avessero elargito fondi ai frati Eremitani di Sant'Agostino di Barletta. Il gran numero di atti notarili relativi al complesso di chiesa e convento testimonia la grande prosperità raggiunta dai monaci.
Con l'arrivo dei Francesi e la soppressione degli ordini religiosi, la chiesa, come molte altre, viene abbandonata e per molti anni rimase chiusa al culto.
Solo nel 1887 fu riaperta al culto, ma le condizioni strutturali non ottimali imposero degli interventi di restauro piuttosto impegnativi.
Tra il 1956 e il 1963 la chiesa e le sue opere furono restaurate.