Jednak historia tego miejsca jest znacznie starsza. XV-wieczne źródła potwierdzają, że stał tu drewniany kościół, przy którym działała ceniona szkoła. Jej absolwentów znajdujemy wśród studentów Akademii Krakowskiej. Przypuszcza się, że pierwsza świątynia powstała już w XIII wieku, kiedy to rycerz Krystyn „de Chrosna” w 1223 roku przekazał Tarchomin na cele misyjne biskupowi pruskiemu Chrystianowi.

Budowę obecnej świątyni rozpoczęto najprawdopodobniej w 1518 roku, na co wskazuje data wyryta na jednej z cegieł w prezbiterium obok nazwiska ówczesnego proboszcza – x Wita Dyosińskiego. Nie wiemy, która z możnych tarchomińskich rodzin – Gołyńscy czy Wesslowie – ufundowała kościół. Pewne jest natomiast, że konsekracji w 1582 roku dokonał biskup płocki Piotr Dunin Wolski.

Jednonawowy kościółek z węższym i niższym prezbiterium, skierowanym na południowy wschód, wzniesiono w stylu gotyku nadwiślańskiego na sztucznie usypanym wzgórzu, które miało chronić przed częstymi wylewami Wisły. Główne wejście znajdowało się na prawej ścianie świątyni, o czym świadczy portal z dwiema wnękami. Zamurowano je po dobudowaniu w I połowie XVIII wieku przedsionka na frontowej ścianie. Był to jeden z etapów gruntownej restauracji i rozbudowy kościoła w stylu barokowym, dokonanej przez nowego właściciela Tarchomina – Franciszka Maksymiliana Ossolińskiego, podskarbiego wielkiego koronnego oraz jego syna Józefa Kantego, wojewodę wołyńskiego. To z tego okresu pochodzi niemal cały obecny wystrój wnętrza z trzema ołtarzami na czele. Wówczas też na prawie dwa stulecia kościół otynkowano. Regotyzację obiektu przeprowadzono dopiero w latach 20. XX wieku za czasów proboszcza Stanisława Bańkowskiego, dzięki wsparciu inżyniera Władysława Teodora Kisiel-Kiślańskiego. Z czasów Ossolińskich pochodzi też XVIII-wieczny obraz świętego Jakuba, prawdopodobnie pędzla Szymona Czechowicza – jednego z najwybitniejszych malarzy barokowych Rzeczpospolitej – umieszczony w górnej części ołtarza głównego i będący najstarszym ruchomym elementem wyposażenia kościoła. Mógł być namalowany w czasie jego pobytu w Rzymie lub zaraz po jego powrocie do Polski czyli ok 1731 roku.

Należy odnotować, że w latach 1774-1787 proboszczem Tarchomina był ksiądz Franciszek Czaykowski, wybitny kartograf, historyk i społecznik, który stworzył cenne dzieło „Parafia Tarchomin Wieś” z dokładnym opisem i planem okolicy. Z kolei w sierpniu 1789 roku świątynię nawiedził ostatni król Polski Stanisław August Poniatowski.

W II połowie XIX wieku zbudowano siedmiogłosowe organy, ufundowano stalle i malowidła na ścianach prezbiterium, przedstawiające ewangelistów i patronów Polski, a także ułożono lastrykową posadzkę. W 1914 roku znany architekt Stefan Szyller opracował niezrealizowany projekt rozbudowy kościoła. Po II wojnie światowej wymieniono obraz Ukrzyżowania Chrystusa w ołtarzu głównym oraz założono nowe dzwony. Poprzednie w 1941 roku zrabowali hitlerowcy. W 1983 roku ceramiczną dachówkę zastąpiono blachą.

Od kilku lat prowadzone są gruntowe remonty, a w 2018 roku uroczyście obchodzono 500-lecie kościoła. Jubileusz zaowocował wieloma inicjatywami, między innymi powstaniem utworu muzycznego dedykowanego tarchomińskiej świątyni pt. „Oratorium Jakubowe” autorstwa Jerzego Cembrzyńskiego i Aldony Kraus, a także wydaniem folderu „Święty Jakub z Tarchomina”