Konklawe w 1958 trwało trzy dni, podczas których odbyło się dwanaście głosowań[1]. Ku zaskoczeniu samego Roncallego kardynałowie wybrali go 28 października, uznając go za „papieża przejściowego”, ze względu na zaawansowany wiek (77 lat)

Pontyfikat

Wkrótce po wyborze Jan XXIII oznajmił, że jego głównym pragnieniem jest, by mógł być przede wszystkim pasterzem. Zaraz potem podjął cztery ważne decyzje: zwiększył liczebność Kolegium Kardynałów (unieważniając dekret Sykstusa V), postanowił zwołać synod i sobór powszechny, a także zrewidować kodeks prawa kanonicznego. Pierwszy w historii Rzymu Synod Biskupów odbył się w dniach 24-31 stycznia 1960 i był określany jak wstęp do soboru. Historycy są jednomyślni, że najdonioślejszym wydarzeniem pontyfikatu Jana XXIII było zwołanie II soboru watykańskiego, którego zadaniem było otwarcie Kościoła na odłączonych i dostosowanie go do wymogów nowej epoki. Pierwsza komisja przygotowująca sobór zaczęła obradować w czerwcu 1959. Rok później papież utworzył dziesięć komisji soborowych i komisję główną. Wkrótce potem rozesłał zapytania do biskupów świata z prośbą o propozycje tematów – odpowiedzi było na tyle dużo, że nie zdążono nawet wszystkich przygotować. W Boże Narodzenie w 1961 papież postanowił, że sobór zostanie otwarty 11 października 1962 (początkowo przewidywał, że potrwa kilka miesięcy). Na obrady zaproszonych było 18 Kościołów niekatolickich, ale sam papież nie brał udziału w obradach. Raz jednak interweniował, kiedy to schemat o Objawieniu został odrzucony większością Ojców soborowych lecz niewystarczającą większością 2/3 (papież skierował wówczas schemat do ponownych obrad specjalnej komisji). Pierwsza sesja soboru zakończyła się 8 grudnia 1962.

Zdaniem historyków żaden wcześniejszy papież nie podjął takich wysiłków na rzecz ekumenizmu jak Jan. 5 czerwca 1960 utworzył Sekretariat Jedności Chrześcijan, mianując jego prefektem kardynała Augustina Bea. 20 grudnia 1960 odbył godzinne spotkanie z Geoffreyem Fisherem, arcybiskupem Canterbury. Było to pierwsze od 400 lat, od ekskomuniki Elżbiety I, spotkanie arcybiskupa Canterbury z papieżem. Wymienił także (poprzez wysłanników) pozdrowienia z patriarchą Moskwy Aleksym i patriarchą Konstantynopola Atenagorasem. Za zgodą papieża w 1961 obserwatorzy katoliccy wzięli udział w Światowej Radzie Kościołów w Delhi.Udzielał się także w reformie liturgii: zatwierdził nowy brewiarz i mszał, a także wprowadził do kanonu mszalnego wspomnienie św. Józefa i wyraził zgodę na używanie języków narodowych w Kościołach unickich. W sprawach dogmatycznych jego działanie jest oceniane jako nieco zachowawcze, jak np. gdy przestrzegł przed niebezpiecznymi treściami dzieł Pierre’a Teilharda de Chardin. Już w pierwszym roku swojego pontyfikatu napisał cztery encykliki, z których najważniejsza, Ad Pedri Cathedram (wydana w czerwcu 1959), zawierała oficjalną zapowiedź soboru. Trzy kolejne, które ukazały się od sierpnia do listopada 1959, traktowały o stanie kapłańskim, modlitwie różańcowej i pracy misyjnej. W maju 1961 została wydana encyklika społeczna Mater et Magistra, w której powtórzył i odnowił przesłania Piusa XI i Leona XIII. W podobnym tonie Jan XXIII wypowiedział się także w ostatniej swojej encyklice Pacem in terris (kwiecień 1963), gdzie nawiązał także do pokojowego współistnienia pomiędzy Zachodem a komunistycznym Wschodem. Dodatkowo, podczas kryzysu kubańskiego, publicznie apelował do ZSRR i USA o ostrożność w działaniach, czym zaskarbił sobie sympatię prezydenta Kennedy’ego i I sekretarza Chruszczowa. Dzięki temu ociepleniu stosunków dyplomatycznych, 7 marca 1962 Jan przyjął na audiencji córkę i zięcia Chruszczowa.Wbrew panującemu przekonaniu papież Jan XXIII nie ekskomunikował 3 stycznia 1962 roku Fidela Castro. Doszło jedynie do pogorszenia relacji, m.in. poprzez odpowiedź papieża na wiadomość od kubańskiego prezydenta, Dorticósa Torrado, w której wyraził swoje „szczere życzenia chrześcijańskiej pomyślności dla umiłowanego narodu Kuby”. Przesłanie miało jednak dość ekspansywny charakter. Również w tym samym czasie władze watykańskie podjęły decyzję o nieprzyjęciu listu uwierzytelniającego dla nowego ambasadora Kuby, Amado Blanco y Fernándeza. Napięcie stosunków wynikało z nagonki i prześladowań duchownych Kościoła na Kubie.Człowiek Roku 1962 według magazynu „Time”. Jego sekretarzem osobistym był abp Loris Capovilla. Podczas gdy Pius XII zawsze patrzył w bok i ponad aparatem, gdy robiono mu zdjęcia, Jan XXIII patrzył wprost w obiektyw i uśmiechał się. Palił fajkę. Był pierwszym papieżem od 1870 roku, który odbył oficjalne spotkanie poza Watykanem – była to wizyta w więzieniu i jednym ze szpitali w Boże Narodzenie w 1958. W 1962 odbył także podróż do Asyżu i Loreto. Kreował 52 kardynałów na pięciu konsystorzach.