Na het overlijden van paus Pius IX stonden de kardinalen voor de taak om voor het eerst een paus te kiezen op Italiaans grondgebied. In 1870 was de Kerkelijke Staat geannexeerd door Italië en sindsdien was de paus geen soeverein vorst meer met een eigen territorium. Het was daarom van belang om iemand te kiezen die de verhoudingen met Italië niet op scherp zou zetten.
Ook de relaties met andere Europese staten stonden op het spel. De liberale regeringen in onder meer Frankrijk waren gekant tegen de keuze van een paus die net zo conservatief was als Pius IX. Al snel viel de keuze op kardinaal Pecci die aan deze voorwaarden voldeed en die bovendien al 68 jaar oud was, zodat men verwachtte dat hij niet zo lang zou regeren als zijn voorganger die bijna 32 jaar paus was.
Leo XIII werd gekozen in een tijd waarin de spanningen tussen Kerk en wereld toenamen. In 1871 had Italië een eind gemaakt aan het bestaan van de Kerkelijke Staat. Net zo min als zijn voorganger Pius IX kon Leo XIII zich hierbij neerleggen. Het bleek katholieken verboden om actief te zijn in de Italiaanse politiek. Ook met andere staten die de macht van de Kerk wilden inperken, zoals Duitsland, stond de paus aanvankelijk op slechte voet.
Eveneens in lijn met zijn voorganger veroordeelde Leo XIII allerlei moderne ontwikkelingen. Hij hield onverkort vast aan de Syllabus errorum die in 1864 was uitgevaardigd en waarin onder meer liberalisme, socialisme en rationalisme werden veroordeeld. In zijn eerste encyclieken sprak hij zich net als paus Gregorius XVI uit tegen godsdienstvrijheid, gewetensvrijheid, persvrijheid en tegen de scheiding van Kerk en staat.
Maar in tegenstelling tot zijn voorganger stuurde hij aan op verzoening. Op verschillende manieren brak hij met het verleden: hij creeërde John Henry Newman, die bij Pius IX in ongenade was gevallen, tot kardinaal. De pauselijke sterrenwacht, die in de zestiende eeuw was opgericht, maar die in verval was geraakt, liet hij heropenen.
Tegelijkertijd bleef hij de Middeleeuwen koesteren als ideaal: de tijd waarin de pauselijke monarchie machtiger was dan ooit. Paus Innocentius III was zijn held: diens stoffelijk overschot liet hij overbrengen van Perugia, waar hij begraven was, naar Rome en bepaalde dat hijzelf zo dicht mogelijk bij hem begraven zou worden.
Zijn liefde voor de Middeleeuwen bracht hem ertoe om in de encycliek Aeterni Patris (1879) Thomas van Aquino als belangrijkste bron voor de hedendaagse filosofie aan te bevelen. Het was een enorme stimulans voor de belangstelling voor zijn filosofie en voor de kwaliteit van het filosofisch onderwijs binnen de priesteropleidingen. De encycliek laat zien dat Leo XIII vertrouwen had in de menselijke rede en dat het verwerven van kennis de mens nader tot God kon brengen. Dit was een heel ander geluid dan dat van Pius IX.
Maar zo werd de encycliek destijds niet verstaan: Leo XIII leek net zo conservatief als zijn voorganger en wilde de beschaving terugbrengen naar de Middeleeuwen.
Deze vijandige houding tegenover de moderne tijd leidde tot een dramatische confrontatie. In 1888 besloot de gemeenteraad van Rome in te stemmen met een initiatief om Giordano Bruno te eren met een standbeeld. Bruno was een filosoof die in 1600 door de inquisitie wegens ketterij veroordeeld was en op de brandstapel was terechtgesteld. De reden voor deze veroordeling lag in zijn theologische opvattingen: hij verwierp onder meer de transsubstantiatieleer. Maar hij was ook een symbool geworden voor de strijd om de vrijheid van wetenschappelijk onderzoek. Hij was namelijk een aanhanger van de theorie van Copernicus dat de aarde rond de zon draait. Maar voor het uitdragen van deze voor die tijd revolutionaire gedachte is hij niet veroordeeld.
In plaats van erop te wijzen dat Bruno niet vanwege zijn wetenschappelijke inzichten was veroordeeld, vatte Leo XIII de plaatsing van het standbeeld, op een steenworp afstand van het Vaticaan, als een provocatie. De onthulling van het beeld werd een manifestatie tegen het obscurantisme van de Kerk.
Daarentegen wist Leo XIII door concessies te doen een einde te maken aan de Kulturkampf in Duitsland waarmee de toenmalige kanselier Bismarck greep had willen krijgen op de rooms-katholieke Kerk in Duitsland.
En ook met het liberale Frankrijk probeerde hij tot een vergelijk te komen. De meeste Franse katholieken waren tegen de republiek en voor de terugkeer van de koning. Leo XIII riep hen op om de republiek — en daarmee de democratie — te accepteren als een gegeven, zonder daarbij overigens de oprichting van katholieke partijen goed te keuren. Zelfs de meeste Franse bisschoppen legden die oproep naast zich neer, maar toch had Leo XIII hier de mogelijkheid geschapen voor het oprichten van katholieke politieke partijen die de democratie aanvaardden.
Geen paus voor hem heeft zo veel encyclieken geschreven als Leo XIII. Op politiek en sociaal gebied is door de jaren heen een verschuiving te zien. Terwijl de eerste encyclieken de lijn van zijn voorgangers voortzetten, klink later een aanvaarding van de democratie door. Zijn belangrijkste encycliek was ‘Rerum novarum’. Hiermee legde hij het fundament voor de sociale leer van de Kerk
Pas in zijn encycliek Graves de communi uit 1901 zou hij voor het eerst het begrip, ‘christen-democratie’ gebruiken. En hoewel hij het begrip met veel voorbehoud gebruikte, beschouwden katholieke politici het als een steun in de rug voor katholieke politieke partijen die in veel landen in Europa waren ontstaan.
Ondanks zijn afwijzing van diverse vormen van wetenschappelijk onderzoek, stichtte hij verschillende filosofische instituten en universiteiten en opende hij de geheime archieven van het Vaticaan voor wetenschappelijk onderzoek.