Geboren te Berlijn, Berlijn. Carl Joachim Friedrich Ludwig von Arnim was een Duitse dichter en romanschrijver uit de romantiek. Hij stamde uit een adellijke familie uit de Brandenburgse Uradel, die voor het eerst in 1204 werd vermeld. Zijn vader was de Pruisische kamerheer Joachim Erdmann von Arnim (1741-1804), koninklijk gezant in Kopenhagen en Dresden, en later directeur van de Berlijnse Hofopera. Zijn moeder, Amalia Caroline von Labes (1761-1781), stierf drie weken na Arnims geboorte. Arnim en zijn oudere broer Carl Otto brachten hun jeugd door bij hun grootmoeder van moederskant Marie Elisabeth von Labes, de weduwe van Michael Gabriel Fredersdorf uit haar eerste huwelijk, in Zernikow en in Berlijn, waar hij het Joachimsthal Gymnasium bezocht. In 1798 ging hij rechten, natuurwetenschappen en wiskunde studeren aan de Universiteit van Halle. Zijn vroege geschriften omvatten talrijke artikelen voor wetenschappelijke tijdschriften. Zijn eerste belangrijke werk, Theorie der elektrischen Erscheinungen, toonde een hang naar het bovennatuurlijke, kenmerkend voor de Duitse romantici. In Halle raakte hij bevriend met de componist Johann Friedrich Reichardt, in wiens huis hij de romantische dichter Ludwig Tieck leerde kennen. Vanaf 1800 zette hij zijn studie voort aan de Universiteit van Göttingen, maar na een ontmoeting met Johann Wolfgang von Goethe en Clemens Brentano neigde hij van de natuurwetenschappen naar de literatuur. Arnim behaalde in 1801 de graad van doctor in de geneeskunde, maar oefende zijn beroep nooit uit.
Van 1801 tot 1804 reisde hij met zijn broer door Europa. Hij ontmoette zijn latere vrouw Bettina in Frankfurt, reisde samen met Clemens Brentano door de Rijnvallei, bezocht Germaine de Staël in Coppet, Friedrich Schlegel en diens vrouw Dorothea in Parijs, en zette zijn reis voort naar Londen en Schotland.
Arnim werd beïnvloed door de eerdere geschriften van Goethe en Herder, waaruit hij de schoonheid van Duitse traditionele legenden en volksliederen leerde waarderen. Terug in Duitsland begon hij een verzameling hiervan samen te stellen en publiceerde het resultaat in 1805 voor het eerst, in samenwerking met Clemens Brentano, onder de titel Des Knaben Wunderhorn. Hij bezocht Goethe in Weimar om de verzameling te redigeren. In Frankfurt ontmoette hij de jurist Friedrich Carl von Savigny, het begin van een blijvende vriendschap.
Arnims' redactionele werk werd in toenemende mate beïnvloed door de Napoleontische oorlogen. Na de Pruisische nederlaag in de Slag bij Jena-Auerstedt in 1806 volgde hij het koninklijk hof naar Koningsbergen, waar hij zich aansloot bij de kring van Pruisische hervormers rond Baron vom Stein. In 1807 keerde hij terug naar Weimar en Kassel, waar hij de gebroeders Grimm bezocht (hij kende waarschijnlijk de sprookjes), en uiteindelijk terug naar Heidelberg. Samen met Brentano voltooide hij het tweede en derde deel van hun bundel volksliederen en publiceerde vanaf 1808 samen met Joseph Görres de belangrijke romantische Zeitung für Einsiedler in Heidelberg. Tot de Heidelbergse romantici behoorden ook Tieck, Friedrich Schlegel, Jean Paul, Justinus Kerner en Ludwig Uhland.
Vanaf 1809 woonde Arnim weer in Berlijn, maar zijn plannen om in Pruisische dienst te treden mislukten. In 1810 verloofde hij zich met Brentano's zus Bettina, die zelf ook brede erkenning kreeg als schrijfster. Ze trouwden op 11 maart 1811; hun dochter Gisela (een van zeven kinderen) werd eveneens schrijfster. Kort na hun huwelijk bezocht het echtpaar Goethe in Weimar, maar de hereniging werd overschaduwd door een verhitte ruzie tussen Bettina en Goethes vrouw Christiane.
Zijn belangrijkste novelle schreef Arnim in 1812, Isabella von Ägypten, over keizer Karel V die verliefd wordt op een zigeunerin. Dit verhaal zit vol mysterieuze en onheilspellende wendingen en illustreert hoezeer Arnim in de romantische beweging was ingebed. In 1817 schreef hij de eerste historische roman, Die Kronenwächter, over het middeleeuwse Duitsland. De zeer sobere en strakke vertelstijl in dit werk is opvallend: Arnim voltooide slechts één deel van de roman (de resterende stukken werden in 1854 postuum gepubliceerd). Het werk heeft een belangrijke invloed op de ontwikkeling van het historische-romangenre uitgeoefend. In zijn satire is Arnim bijwijlen even gevat en geestig als Brentano dat doorgaans was, zoals in zijn novelle Der tolle Invalide auf dem Fort Ratonneau, waarin hij de lichtgelovigheid van het fatalisme bespot. Zijn grote probleem schijnt echter te zijn geweest dat hij zijn talent niet kon concentreren: hij wilde zo veel mogelijk indrukken, wendingen en humor in één werk samenbrengen, zodat de stijl dikwijls zwaar overladen was. In vergelijking met dat van zijn vriend Brentano is zijn œuvre gemiddeld iets stroever, zij het dat er uitschieters van genialiteit in zitten.
In Berlijn werkte Achim verder aan de nalatenschap van Heinrich von Kleist en richtte hij de patriottische vereniging Deutsche Tischgesellschaft voor christelijke mannen op. Hij bleef banden onderhouden met Pruisische patriotten zoals Adam Heinrich Müller en Friedrich de la Motte Fouqué en voerde zelfs het bevel over een Landsturmbataljon tijdens de Duitse veldtocht van 1813. Vanaf oktober 1813 was hij uitgever van de Berlijnse krant Die Pruisische Correspondent, totdat hij in februari 1814 in onmin raakte met zijn voorganger Barthold Georg Niebuhr.
Terwijl zijn vrouw in Berlijn bleef, trok Arnim zich in 1814 terug in Künstlerhaus Schloss Wiepersdorf, zijn ouderlijk huis, waar hij woonde tot zijn dood.
Overleden aan de gevolgen van een beroerte te Wiepersdorf, Niederer Flaming, Brandenburg. Hij werd begraven in het Kunstlerhaus Schloss in Wiepersdorf, Duitsland.
Zijn oeuvre, gepubliceerd in kranten, tijdschriften en almanakken, evenals in zelfstandige boeken, omvatte romans, toneelstukken, verhalen, gedichten en journalistieke werken. Na zijn dood werd zijn bibliotheek overgenomen door de hofbibliotheek van Weimar.