Am Ortsrand von Harkerode thront auf einem nach drei Seiten hin steil abfallenden Bergsporn aus hartem Diabasgestein die imposante Ruine der Burg . Das weithin sichtbare, hoch aufragende Mauerwerk gehörte zu einer der größten mittelalterlichen Burganlagen im Harz. Ihre Anfänge verlieren sich jedoch im Nebel der Geschichte, und so gibt es über die historische Entwicklung der Burg leider diverse wiedersprüchliche Angaben.

Mit dem Bau der komplexen Festungsanlage wurde vermutlich um das Jahr 1130 durch den Edelmann Walter II. von Arnstedt begonnen. Ihre erste urkundliche Erwähnung datiert im Jahre 1156. Im Laufe der folgenden Jahrhunderte wechselten oft die Besitzer der Burg. Um 1387 gelangte sie schließlich durch Kauf an die Grafen von Mansfeld. Auch innerhalb deren weitverzweigter Dynastie wechselten die Eigentumsverhältnisse an der Burg Arnstein mehrfach.

Wahrscheinlich gegen Ende des 16. Jahrhunderts erfolgte ein Umbau der Burg  zum Wohnschloß. Eine Informationstafel auf dem Burggelände verkündete um die Jahrtausendwende, daß der Arnstein nach einem Brand im Jahre 1601 unbewohnbar wurde. Diese Angaben sucht man heute vor Ort vergebens.

Vermutlich einige Jahre später erfolgte eine Restaurierung unter Barbara Maria von Stolberg. Während des Dreißigjährigen Krieges dienten die massiven Mauern auch der Bevölkerung der umliegenden Orte als Zufluchtsstätte. Der Verfall der Burg begann, nachdem die Grafen ihren Wohnsitz nach 1637 an einen anderen Ort verlegt hatten.

Die Burg wurde nach dem Erlöschen des Mansfelder Grafengeschlechtes an die Familie von Knigge verpfändet, in deren Besitz sie im Jahre 1812 überging. Zu diesem Zeitpunkt war die ehedem so stolze Burganlage bereits stark verfallen. Nach der Enteignung der Familie von Knigge im Jahre 1945 gelangte die Gemeinde Harkerode in den Besitz der Burgruine.