Wenn der Chatbot weiß, wo es lang geht – Ethische Fragen und mögliche Kriterien zum Einsatz von KI-gestützten Beratungssettings

Abstract

Zusammenfassung Die aktuellen Diskussionen im Bildungssektor um ChatGPT verweisen auf die zunehmende Relevanz von generativer KI im Bereich der (Bildungs‑)Beratung. Obwohl avatargestützte Informationsberatungen bereits Realität sind und die Einsatzmöglichkeiten der KI-gestützten Techniken rege diskutiert werden, bleiben viele ethische Fragen unerwähnt. Ziel des vorliegenden Beitrages ist es, nach einer Klärung des Sachstandes die ethischen Fragen des Einsatzes von KI-gestützten Tools in (Bildungs‑)Beratungssettings zu thematisieren. Dafür wird ein pädagogisch verstandenes Beratungsverständnis bemüht, das auf Dimensionen von Reflexivität und Lernen verweist. Dieses wird mit dem Ansatz einer normativen Ethik aufgenommen, welche auf verbindliche Grundlagen der Profession verweist. Im Transfer werden dann mögliche Kriterien zum Einsatz von KI-gestützten Beratungssettings vorgestellt.

Keywords

• Ethics
• Artificial intelligence
• Education counselling
• Professional ethics
• Chatbot