KI-Transparenz

Chat2Job nutzt KI an drei Stellen: im Interview (Dialog mit dem Bewerber, "Buddy"), bei der Profilanalyse (Strukturierung der Antworten zu einem Bewerberprofil) und beim Matching (Vergleich des Profils mit offenen Stellen, Erzeugung eines Match-Scores).

Die eingesetzten Modelle stammen von Anthropic (Claude), Google (Gemini) und OpenAI. Welches Modell für welche Funktion zum Einsatz kommt, wird intern dokumentiert und versioniert.

Der Match-Score ist ein unverbindlicher Vorschlag. Wir treffen mit KI keine automatische Einstellungs- oder Ablehnungsentscheidung. Jede Entscheidung über Einladungen, Gespräche, Zu- oder Absagen liegt ausschließlich beim Unternehmen.

Unternehmen sehen den Score gemeinsam mit einem Hinweis, dass es sich um eine Empfehlung handelt und die finale Auswahl menschlich getroffen werden muss. Diese menschliche Aufsicht ist nach Art. 14 der EU-KI-Verordnung verpflichtend und in unserem System fest verankert.

In den Score fließen nur Angaben ein, die du im Interview oder in deinem Profil freiwillig machst: Berufsfeld, Region, Schulabschluss, Skills, Erfahrungen, Interessen.

Nicht verwendet werden: Religion, Ethnie, sexuelle Orientierung, Gesundheitsdaten, politische Meinung, biometrische Merkmale, Emotionserkennung oder versteckte Persönlichkeitsanalyse. Diese Datenkategorien sind nach EU AI Act und DSGVO Art. 9 besonders geschützt.

Für jede AI-Entscheidung speichern wir Modellversion, Inputs, Match-Scores und Zeitpunkt in einer internen Audit-Tabelle. So bleiben Entscheidungen nachvollziehbar und können bei Bedarf geprüft werden — durch dich, durch das Unternehmen oder durch eine Aufsichtsbehörde.

Du kannst jederzeit Auskunft über die zu deiner Person gespeicherten KI-Entscheidungen verlangen, deren Berichtigung oder Löschung fordern und der automatisierten Verarbeitung widersprechen (Art. 22 DSGVO). Wende dich dazu an datenschutz@chat2job.com.

Wenn du der Meinung bist, dass eine KI-Entscheidung dich diskriminiert oder fehlerhaft war, schreib uns. Wir prüfen jeden gemeldeten Fall und dokumentieren die Untersuchung in unserem internen Incident-Register.

• Bias und Diskriminierung — wir prüfen die Score-Verteilung regelmäßig auf systematische Verzerrungen.
• Genauigkeit der Match-Scores — Feedback aus tatsächlich stattgefundenen Gesprächen fließt in eine Evaluierung der Modellqualität ein.
• Datenschutz und Sicherheit — Hosting in Deutschland, verschlüsselte Speicherung, klar getrennte Zugriffsrechte.
• Transparenz — jedes KI-generierte Element ist als solches gekennzeichnet.
• Menschliche Aufsicht — kein finaler Schritt im Recruiting läuft ohne menschliche Bestätigung.

Chat2Job ist die einzige Recruiting-Plattform, deren KI ihre eigenen Entscheidungen analysiert und Verbesserungsvorschläge formuliert. Konkret heißt das: Nachts läuft ein Prozess, der zufällige Stichproben der letzten 24h prüft und einen einzigen, konkreten Verbesserungsvorschlag erzeugt — etwa eine bessere Formulierung einer Interview-Frage oder eine angepasste Gewichtung im Matching.

Wichtig: Die KI deployed sich niemals selbst. Jeder Vorschlag wird als GitHub-Pull-Request geöffnet und durchläuft automatische Bias-Tests (Demographic Parity, Equal Opportunity). Erst nach manueller Prüfung durch unser Team und grünem Fairness-Check wird gemerged. Auth-, Payment- und Match-Score-Code ist von Selbst-Modifikation ausgeschlossen.

Auch Bugs werden teilweise automatisch erkannt und behoben: wenn du im Dashboard auf "Bug melden" klickst, oder wenn unser Error-Tracker einen Fehler meldet, erstellt unsere KI selbständig einen Fix-Vorschlag als PR. Bevor der gemerged wird, prüft ein Mensch jeden einzelnen Pull-Request.

Eine ausführliche Erklärung mit Live-Statistiken findest du auf /ai-system.

Chat2Job erfüllt die Pflichten der EU-KI-Verordnung (EU AI Act) für Hochrisiko-KI nach Anhang III (Beschäftigung & Personalauswahl). Die Verordnung verbietet diese Systeme nicht — sie reguliert sie streng. Zu unseren laufenden Maßnahmen zählen ein Risikomanagementsystem, technische Dokumentation, automatische Aufzeichnungen, Transparenzhinweise, menschliche Aufsicht, Post-Market-Monitoring und ein Verfahren zur Meldung schwerer Vorfälle.

Zusätzlich gilt für uns die DSGVO. Details findest du in der Datenschutzerklärung.