Le quartier d’Aphat Ospital subsiste encore mais on ne compte plus que quelques maisons, alors qu’il formait autrefois une véritable agglomération.
Au XIIe siècle s’y trouvaient une commanderie, un hôpital, une chapelle et un moulin appartenant à l’Ordre des Chevaliers de Saint-Jean de Jérusalem.
Le Livre d’Or de Bayonne fait mention en 1194 de « l’Hospitale et Oratorium de Apate« . La Commanderie fut vendue comme bien national à la Révolution. D’après le chanoine Daranatz, la chapelle eut d’abord comme titulaire Saint Jean-Baptiste. C’est en 1803 que la paroisse Saint Blaise d’Apat Ospitalea fut incorporée à Saint-Jean-Le-Vieux. L’hôpital a été détruit dans les années 1950.
La chapelle est abandonnée depuis le XVIIIème siècle, la visite pastorale de l’évêque de Bayonne en 1703 faisant la description d’un bâtiment peu entretenu. Cette chapelle réglait les destinées de Bustince (naissances, mariages, décès).
Les fondations subsistantes montrent le tracé d’une abside semi-circulaire (détruite en 1902).
La chapelle mesurait à l’origine 19 m sur 10,50 m, une partie de la nef subsiste encore on peut y trouver un oculus cerné d’une épaisse bague de grès sur l’élévation sud-ouest, la plupart des autres ouvertures sont maintenant bouchées. Le portail présente trois voussures en arcs brisés. Au nord-ouest on observe un enfeu surmonté d’un arc brisé surbaissé probablement du XIIIe siècle. Du cimetière qui l’entourait, ne subsistent plus que quelques stèles discoïdales déposées chez le propriétaire.
Propriété privée. Inscription aux monuments Historique par arrêté du 22 décembre 1987.