Persekutuan beberapa keluarga yang dimulai pada bulan April 1992 di bawah bimbingan Pdt. Siem Tjien Hing dan Pdt. Simon Jonatan dari GKI San Francisco menjadi cikal bakal Gereja Kristen Indonesia San Jose, atau singkatnya GKI San Jose. Agar pelayanan kami dapat lebih diperluas, dirintislah pendirian gereja di San Jose. Panitia bakal jemaat bertugas mencari gedung gereja dan pada bulan Oktober 1992, Tuhan mengabulkan doa kami dengan menyediakan Chapel Immanuel Evangelical Lutheran Church, San Jose. Kebaktian pertama diadakan pada tanggal 1 November 1992, dilayani oleh Pdt. Siem Tjien Hing dan Pdt. Simon Jonatan.

Jemaat GKI San Jose didewasakan pada tanggal 13 Agustus1995. Majelis Jemaat yang pertama terdiri dari penatua-penatua: Alm. Joshua Budiman, Jesse Lawrendra, Rahayu Moestopo, Benny Tafzil dan Alm. Widakdo Wong. Pada tanggal 1 Desember 1995, karena kesibukan Pdt. Simon Jonatan di GKI San Francisco, maka Majelis Jemaat meminta Pdt. Siem Tjien Hing melayani sebagai pendeta interim. Pada waktu itu juga, kami mendapat banyak bantuan dari pendeta-pendeta di Bay Area: Pdt. Lukman Tjitradjaja (Oktober 1996 - Agustus 1997) dan Ibu Kristiani Suwito (Oktober 1997 - Juni 1999).

Sejalan dengan pertumbuhan dan perkembangan GKI San Jose, Chapel tempat kami beribadah sudah tidak memadai lagi. Kebaktian terakhir di Chapel diadakan pada tanggal 28 Oktober 2001. Pada tanggal 4 November 2001 adalah kebaktian perdana kami di gedung Trinity Presbyterian Church San Jose. Sebagai pertimbangan untuk meningkatkan ruang lingkup pelayanan, Sidang Majelis Jemaat menyepakati agar GKI San Jose menganut suatu denominasi utama. Dalam masa bersamaan, yaitu pada tahun 2003, GKI San Jose mendapat undangan untuk menjadi New Church Development (NCD) dari Presbyterian Church of USA (PCUSA). Itu menjadi langkah pertama yang ditempuh dan sampai saat ini GKI San Jose tercatat dalam daftar NCD PCUSA, meskipun tahap itu belum ditinjaklanjuti lebih jauh. Disamping itu, pada bulan Juni 2006 dirintis pula kerjasama dengan Sinode GKI di Indonesia dalam bentuk penampungan para pendeta yang akan melakukan cuti sabat ke Amerika.

Pada tanggal 4 September 1999, Bapak Antonius Setiawan diteguhkan sebagai Pendeta GKI San Jose yang pertama. Pdt. Antonius Setiawan melayani di GKI San Jose sampai dengan September 2004. Dalam masa pencarian gembala sidang selanjutnya, kami banyak mendapat bantuan dari para pendeta di Bay Area, para pendeta yang sedang studi di Amerika; Pdt. Mikha Joedhiswara (Nov 04–Sep 06) dan Pdt. Linna Gunawan (Okt 06–Jul 08); dan pendeta dari GKI di Indonesia yang sedang menjalani cuti sabat; Pdt. Ronny Nathanael (Des 06–Feb 07) dan Pdt. Budiono Wibowo (Des 08–Feb 09)

Dengan pertimbangan matang, akhirnya Sidang Majelis Jemaat tanggal 1 Mei 2008 memutuskan untuk memulai proses pemanggilan Pdt. Mikha Joedhiswara sebagai pendeta GKI San Jose. Adalah berkat Tuhan bahwa saat ini Pdt. Mikha dapat hadir bersama-sama dengan kami. Demikianlah riwayat singkat Jemaat GKI San Jose. Biarlah segala hormat dan puji syukur dinaikkan dan dikembalikan kepada-Nya. Amin.