Projekt Google vznikol v roku 1996 ako výskumný projekt Larry Paga a Sergeya Brina, doktorandských študentov na Stanfordskej univerzite. Pri vyhľadávaní dizertačnej témy Page zvážil – okrem iného – skúmanie matematických vlastností World Wide Web, teda internetu, pričom pochopil štruktúru odkazov ako obrovský graf. Jeho profesor Terry Winograd ho vyzval, aby si vybral túto myšlienku (čo neskôr na svojej stránke spomenul ako “najlepšiu radu, akú som kedy dostal”) a zameral sa na problém ako zistiť, ktoré webové stránky odkazujú na danú stránku, že počet a povaha takýchto spätných odkazov boli cennými informáciami o tejto stránke.

Vo svojom výskumnom projekte, nazvanom “BackRub”, sa k nemu čoskoro pripojil Brin. Obaja Brin a Page pracovali na projekte Stanford Digital Library (SDLP). Cieľom SDLP bolo rozvíjať podporné technológie pre jednotnú, integrovanú a univerzálnu digitálnu knižnicu a bol financovaný prostredníctvom Národnej vedeckej nadácie, okrem iných federálnych agentúr.

Webový prehľadávač na stránkach začal skúmať web v marci 1996, pričom vlastná domovská stránka Stanfordu slúžila ako jediný východiskový bod. Na konvertovanie spätných odkazov, ktoré zhromaždili na danú webovú stránku do dôležitého ukazovateľa, vyvinuli Brin a Page algoritmus PageRank. Pri analýze výstupu – ktorý pre danú adresu URL pozostával zo zoznamu spätných odkazov zaradených podľa dôležitosti – si dvojica uvedomila, že vyhľadávací nástroj založený na algoritme PageRank by priniesol lepšie výsledky ako existujúce techniky, ktoré v tom čase v podstate iba zaradili výsledky podľa počtu, koľkokrát sa vyhľadávací výraz objavil na stránke. V presvedčení, že stránky s veľkým množstvom odkazov od iných vysoko relevantných webových stránok musia byť najrelevantnejšie stránky spojené s vyhľadávaním, Page a Brin testovali svoju prácu ako súčasť svojich štúdií a položili základy svojho vyhľadávacieho nástroja.

Názov “Google” pochádza z nesprávneho napísania slova “googol”, ktorý sa vzťahuje na číslo reprezentované číslom 1 nasledovaným sto nulami. V marci 1996 podnik Groove Track Productions požiadal o obchodnú značku v Spojených štátov amerických pre “Google” pre rôzne produkty vrátane niekoľkých kategórií odevov, hračiek, stolových hier a bonbónov. Spoločnosť zrušila svoju žiadosť v júli 1997. Po zistení, že sa v každodennom jazyku stále viac hľadá, bolo sloveso “google” pridané v roku 2006 do slovníka Oxford English Dictionary. Použitie samotného pojmu odráža ich poslanie organizovať zdanlivo nekonečné množstvo informácií na webe.

V roku 2004 spoločnosť Google vytvorila neziskovú organizáciu, ktorej mimoriadnym poslaním je pomôcť s otázkami klimatických zmien, globálneho verejného zdravia a globálnej chudobe. Medzi jeho prvými projektmi je vyvinúť životaschopné hybridné elektrické vozidlo.

Spoločnosť Google spolupracovala s viacerými spoločnosťami na zlepšenie svojej výroby a služieb. Dňa 28. septembra 2005 spoločnosť Google oznámila dlhodobé vedecké partnerstvo s NASA, v rámci ktorého by spoločnosť Google vytvorila centrum výskumu a vývoja. NASA a Google plánujú spolupracovať v rôznych oblastiach vrátane rozsiahleho riadenia údajov, masívne distribuovaného výpočtu, konvergencie a podpory podnikateľského vesmírneho priemyslu. V októbri 2006 spoločnosť Google vytvorila partnerstvo so spoločnosťou Sun Microsystems s cieľom pomôcť zdieľať a distribuovať navzájom svoje technológie. Ako súčasť partnerstva spoločnosť Google najme zamestnancov, ktorí pomôžu kancelárskemu programu OpenOffice.org. V rámci spolupráce s AOL spoločnosť Google plánuje spolupracovať na vyhľadávaní videí a ponúka službu AOL Premium Video v rámci služby Google Video. Zobrazenie reklamy v celej sieti Google sa tiež zvýši.