Karl Wittgenstein had besloten dat hij zijn zoons zou opvoeden als industrialisten en hij liet ze niet naar school gaan, uit angst dat ze daar slechte gewoontes op zouden pikken, maar gaf ze zelf thuis les. Hij was een strenge, perfectionistische leraar wat bij zou hebben kunnen dragen aan de depressieve buien en zelfmoordneigingen van zijn zoons. Na de zelfmoord van Hans en Rudi veranderde Karl van mening en liet hij zijn kinderen toe om les te nemen op normale scholen. Ludwig kon zich niet meer genoeg voorbereiden op het toelatingsexamen van het Gymnasium van Wenen en moest genoegen nemen met de Realschule in het nabijgelegen Linz.
Ludwig viel erg op in de klas en op het schoolplein: hij sprak een vrijwel accentloos Duits en stotterde ook nog eens. Hij stond erop dat de andere leerlingen hem aanspraken met ‘Sie’. Uit fragmenten uit zijn dagboek is gebleken dat hij met tegenzin naar school ging en zich in de klas behoorlijk miserabel voelde. Hij werd geplaagd door de andere kinderen en zijn academische resultaten waren onder de maat. Hij was een slechte speller, op de grens van volledige dyslexie.
Wenen was in die tijd een van de meest antisemitische steden van Europa en men kan zich afvragen in hoeverre Ludwig, Rooms-katholiek gedoopt maar met drie joodse grootouders, daaronder leed. Bovendien komt Ludwig Wittgenstein de twijfelachtige eer toe dat hij voor een aantal jaar op dezelfde school zat als Adolf Hitler, die waarschijnlijk wel een aantal jaren hoger zat dan hij. Hoewel Wittgenstein en Hitler elkaar zonder twijfel op het schoolplein ontmoet hebben, is er geen enkele aanwijzing om aan te nemen dat Hitler Wittgenstein als jood zou hebben gezien, of dat zijn aanwezigheid het antisemitisme van Hitler verergerd zou hebben.
In 1906 begaf Wittgenstein zich naar Berlijn om aldaar aan de Technische Hochschule in Charlottenburg een studie in mechanical engineering te volgen. In 1908 ontving hij zijn diploma, waarna hij naar Manchester afreisde om daar aan de Victoria University zijn doctoraal te halen. Het was rond deze tijd dat zijn interesse verschoof van aeronautiek naar de filosofie van de wiskunde, onder invloed van publicaties van Russel en Frege. Deze laatste bezocht hij in 1911 op de universiteit van Jena. Naar eigen zeggen veegde Frege de vloer aan met de jonge Wittgenstein en de filosofische essays die hij had geschreven. Ondanks dat wilde Ludwig graag bij Frege studeren, maar deze raadde hem aan om in Cambridge onder Bertrand Russel te studeren. Wittgenstein vertrok meteen naar Engeland.
Wittgenstein kwam onaangekondigd het kantoor van Russel binnenstormen en vertelde hem dat hij zijn colleges wilde volgen. Aangezien de colleges van Russel normaliter slechts door een drietal studenten werden gevolgd, was Russel in eerste instantie aangenaam verrast met de aanwezigheid van deze nieuwe student. Wittgenstein bleek echter al snel een dominante student te zijn, die de colleges met zijn eigen meningen en opvattingen begon te overheersen. Russel’s irritatie sloeg echter over in bewondering toen hij ontdekte dat Wittgenstein waarschijnlijk een bevlogen genie was. Hij raakte erg gesteld op de jongeman die hij gaandeweg als zijn logische opvolger begon te zien.
Op 20 januari 1913 stierf Wittgenstein’s vader, waardoor hij in een klap een van de rijkste personen van Europa werd. Wittgenstein gaf echter het merendeel van zijn erfenis aan kunstenaars in Wenen, waaronder Rainer Maria Rilke. In datzelfde jaar ging Wittgenstein naar Skjolden, een klein dorp in Noorwegen, om daar zonder bemoeienis van andere academici zijn filosofische gedachten uit te kunnen werken. Hier schreef hij zijn Logica (Duits: Logik), dat hij aan de universiteit van Cambridge aanbood als zijn bachelorthese. Het werd echter door de universiteit afgewezen, omdat het geen inleiding of voetnoten bevatte.
Toen de Eerste Wereldoorlog uitbrak, voegde Wittgenstein zich vrijwillig bij het Austro-Hongaarse leger. Hij diende zowel aan het Russische front als in Italië, kreeg verscheidene medailles voor moed toegekend, en werd uiteindelijk zelfs gepromoveerd tot luitenant. Tijdens de oorlog hield hij dagboeken bij waarin hij zijn filosofische gedachten opschreef. In 1918 nam hij verlof en verbleef in Wenen, waar hij de laatste hand legde aan de Tractatus Logico-Philosophicus, waarna hij het manuscript naar Johada en Siegel stuurde ter publicatie.
Het najaar van 1918 was rampzalig voor Wittgenstein: zijn oom Paul stierf, zijn broer Kurt pleegde zelfmoord en David Pinsent, Wittgenstein’s goede vriend en wellicht zijn geliefde, stierf tijdens een vliegtuigongeluk. Wittgenstein was emotioneel kapot en worstelde met zelfmoordneigingen. Zijn militaire verlof was afgelopen en hij werd teruggestuurd naar het Italiaanse front waar hij in november van 1918 krijgsgevangen werd genomen. Hij verbleef negen maanden in gevangenschap en keerde pas in augustus van 1919 terug naar Wenen. Hij verdeelde de rest van zijn fortuin onder zijn broer en zussen en hij besloot basisschoolleraar te worden.
In 1920 werd hij aangesteld als leraar aan een basisschool in Trattenbach, in Oostenrijk, waar hij bleef tot 1922. Hij kon niet goed opschieten met de plaatselijke bevolking die hij onverantwoordelijk en ‘nergens-goed-voor’ vond. De plaatselijke bevolking, op haar beurt, vond Wittgenstein excentriek en roddelde uitgebreid over hem. In september 1922 verhuisde hij naar het nabijgelegen Hassbach waar hij het slechts een maand uithield. Daarna vertrok hij naar Puchberg maar ook daar was het niet naar zijn zin. Hij miste andere filosofen om mee te kunnen discussiëren.
Ondertussen was zijn Tractatus Logico-Philosophicus in 1921 uitgegeven als onderdeel van Annalen der Naturphilosophie van Wilhelm Oswald. Betrand Russel had een inleiding op het werk geschreven, om aan te geven waarom het werk van belang was en om lezers te trekken voor de nog onbekende Wittgenstein. Deze laatste was echter allerminst gecharmeerd van Russel’s inleiding. Wittgenstein was van mening dat Russel zijn werk niet helemaal goed begrepen had en dus een misleidende inleiding had geschreven. Het eindresultaat was dat Wittgenstein niet tevreden was met de Duitse uitgave van zijn Tractatus, die hij minachtend aanduidde als een ‘gekaapte versie’.
In 1926, toen Wittgenstein les gaf aan een basisschool in Otterthal, zakte een van zijn leerlingen in elkaar nadat Wittgenstein hem enkele klappen tegen het hoofd had gegeven. Piribauer, de vader van een leerling die door Wittgenstein aan haar oren was getrokken, probeerde tevergeefs om hem te laten arresteren. Wittgenstein diende enkele dagen later zijn ontslag in en keerde terug naar Wenen. Het proces dat later gevoerd werd aangaande de leerling die in elkaar gezakt was, werd om onduidelijke redenen gestaakt. Wellicht heeft de invloed en het geld van de Wittgenstein familie hier een rol in gespeeld.
De volgende drie jaar hield Wittgenstein zich bezig met het ontwerpen en toezien op de bouw van het huis van zijn zus Margaret. Hij had veel aandacht voor details wat de uitvoerders op de bouw soms tot waanzin dreef. Wittgenstein zag zichzelf als architect en stond tussen 1933 en 1938 ook als dusdanig geregistreerd in het register van Wenen.
In 1929 keerde Wittgenstein terug naar Cambridge, waar hij na tussenkomst van Russel een PhD toegekend kreeg op basis van zijn vorige verblijf en met de Tractatus Logico-Philosophicus als zijn dissertatie. Hij kreeg een aanstelling als docent en werd een ‘fellow’ van Trinity College. In 1939 volgde hij Moore op als hoogleraar van het departement filosofie en niet lang daarna verkreeg hij Brits staatsburgerschap.
Toen de oorlog uitbrak zorgde Wittgenstein dat hij een baan kreeg in een lokaal ziekenhuis. Hij kon het namelijk niet uitstaan om filosofie te onderwijzen terwijl er een oorlog aan de gang was. Hij was verantwoordelijk voor de bezorging van medicijnen aan de afzonderlijke ziekenzalen, waar hij vervolgens de patiënten afraadde ze in te nemen.