Présents à Marseille depuis la fin du XIIIe siècle, la communauté des Augustins ne se voit doter d'une église qu'à la fin du XVe siècle. D’abord excentrée, l'église trouve une place centrale avec l’extension de la ville ordonnée par Louis XIV en 1666. Elle n'a pas encore de façade monumentale et reste enchâssée dans les constructions environnantes.
Plusieurs corporations utilisent l'église des Augustins pour célébrer leurs cérémonies patronales et y font construire des autels. Elle est aussi un lieu de sépulture : caveaux familiaux dans la nef, caveaux des religieux et des familles nobles dans les chapelles latérales.
L'église échappe de peu à la destruction lors de la Révolution, devient en 1791 le siège d’une paroisse qui prend le nom de Saint-Augustin, et est partiellement démolie. En 1799 l'édifice est mis à la disposition du service des fourrages.
En 1803 suite à la destruction de l'église Saint-Ferréol, l'église reçoit l'appellation de Saint-Ferréol-les-Augustins. Vers 1840 les travaux d’aménagement, Vieux-Port et rue Impériale, ont permis de dégager sa façade. Celle-ci est reconstruite en 1874 dans un style néo-classique, puis recouverte en 1875 d'un placage en ciment réalisé par Letz.
L’église actuelle comporte une nef centrale et six chapelles latérales qui possèdent chacune une décoration particulière.
On peut y trouver notamment le reliquaire de Saint Louis d'Anjou, une statue de Jeanne d'Arc sculptée par Botinelly et une toile de Michel Serre représente Le repos pendant la fuite en Égypte.