Konrad von Thüringen entstammte dem Geschlecht der Ludowinger, das im Hochmittelalter die Landgrafschaft Thüringen beherrschte und zu den einflussreichen Fürstenfamilien des mitteldeutschen Raumes gehörte. Er war ein Sohn des Landgrafen Hermann I. und wuchs in einem politischen Umfeld auf, das durch die Machtstellung seiner Familie im Reich geprägt war. Innerhalb der dynastischen Ordnung der Ludowinger erhielt er als jüngerer Sohn eigene Herrschaftsaufgaben und wurde Graf von Gudensberg, wodurch er insbesondere die hessischen Besitzungen der Familie verwaltete. 

Nach dem Tod seines Bruders Ludwig IV., der mit Elisabeth von Ungarn verheiratet gewesen war, beteiligte sich Konrad gemeinsam mit seinem Bruder Heinrich Raspe an der Sicherung der landgräflichen Herrschaft. In dieser Zeit führte er mehrere militärische Auseinandersetzungen, unter anderem gegen den Erzbischof von Mainz, und versuchte, die politische Stellung der Ludowinger in Hessen zu festigen. Diese Konflikte gehörten zu den zahlreichen territorialen Rivalitäten zwischen geistlichen und weltlichen Fürsten im Reich. 

In der Mitte seines Lebens vollzog Konrad eine grundlegende Wendung. Er legte seine weltlichen Ämter nieder und trat in den Deutschen Orden ein. Dieser Schritt war für einen hochadeligen Fürsten ungewöhnlich und verdeutlicht die enge Verbindung zwischen geistlichen Institutionen und der politischen Elite des Reiches. Innerhalb des Ordens stieg er rasch auf und übernahm schließlich das Amt des Hochmeisters. 

Auch in dieser Stellung blieb er mit den politischen Entwicklungen im Reich verbunden und trat mehrfach als Vermittler zwischen weltlichen Fürsten und der päpstlichen Kurie auf. Sein Wirken verbindet daher die Geschichte der thüringischen Landgrafen mit der frühen Entwicklung des Deutschen Ordens. Seine Bestattung erfolgte in der Elisabethkirche in Marburg, die eng mit der Verehrung seiner Schwägerin Elisabeth von Ungarn verbunden ist.