EU-AI-Act-Prüfung

Manche Automatisierungen helfen bei Entscheidungen über Menschen, etwa welche Bewerbungen zu deinen Kriterien passen. Sobald du so eine Automatisierung bestätigst, prüft timelit sie im Hintergrund anhand des tatsächlichen Gesetzestexts und sagt dir, was gilt. Sie läuft, nachdem du das Ergebnis gelesen und einmal bestätigt hast.

Die Prüfung gehört zu den Automatisierungen, die in der Beta sind. Sie ist keine Rechtsberatung und keine Zertifizierung (mehr dazu unten).

Warum wir das gebaut haben#

Bewerbungen sortieren oder beurteilen, ob jemand einen Kredit bekommt, ist in der EU eine regulierte Nutzung von KI. Die meisten, die so eine Automatisierung einrichten, wissen das nicht, und nichts in ihrem Postfach sagt es ihnen. Die Prüfung sagt es dir in einfachen Worten, verlinkt die Artikel, auf die sie sich stützt, und nennt, worum sich deine Organisation kümmern muss.

Wann timelit eine Automatisierung prüft#

timelit prüft einen Plan, wenn er unter den EU AI Act fallen könnte, zum Beispiel wenn er:

• bei der Auswahl von Bewerberinnen und Bewerbern hilft oder Leistung, Beförderung oder Kündigung von Beschäftigten beurteilt,
• beurteilt, ob jemand einen Kredit, eine Versicherung, Sozialleistungen oder wichtige Dienste bekommt,
• Prüfungen benotet oder über Zulassungen entscheidet,
• Gefühle von Menschen erkennen will oder mit biometrischen Daten, Punkten, Rangfolgen oder Persönlichkeitsprofilen arbeitet,
• Text von timelit anderen Menschen so vorlegt, als hätte ihn eine Person geschrieben.

Alltägliche Automatisierungen, etwa eine Übersicht deiner eigenen Mails, Erinnerungen oder Entwürfe, die du selbst prüfst, werden nicht geprüft.

So funktioniert's#

1. Bestätige den Plan. Du richtest die Automatisierung in ihrem Chat ein und klickst wie gewohnt auf Bestätigen. Hilft die Automatisierung bei Entscheidungen über Menschen, zeigt der Plan vorher den Hinweis Entscheidungen über Menschen, den du mit Bestätigen und speichern bestätigst.

2. Die Prüfung läuft im Hintergrund. Der Plan zeigt EU-AI-Act-Prüfung mit Prüfung läuft. Das kann ein paar Minuten dauern, und du kannst währenddessen weiterarbeiten. Bis das Ergebnis da ist, läuft die Automatisierung nicht; im Plan steht Von Timelit pausiert, während der geänderte Plan nach dem EU AI Act geprüft wird.

3. Lies das Ergebnis. Es steht im Plan unter EU-AI-Act-Prüfung und, wenn du etwas tun musst, unter Aufgaben als Braucht deine Bestätigung. Findet die Prüfung nichts für dich zu tun, läuft die Automatisierung von selbst.

4. Bestätige es einmal. Hake die Pflichten ab, um die sich deine Organisation gekümmert hat, und klicke auf Ich habe das gelesen und übernehme die Verantwortung. Danach läuft die Automatisierung. Im Plan steht Von dir bestätigt am mit dem Datum. Das geht im Plan oder direkt aus der Aufgabe.

Was das Ergebnis sagt#

Das Ergebnis nennt das Datum der Prüfung und den Stand des Gesetzes, nach dem geprüft wurde. Es zeigt eines davon:

• Geprüft am mit Datum: Nichts steht im Weg. Die Prüfung kann trotzdem auflisten, was Muss erfüllt bleiben, etwa dass eine Person über jede Bewerbung entscheidet.
• Änderungen nötig: Die Prüfung empfiehlt Änderungen, aufgelistet unter Nötige Änderungen. Bitte timelit im Chat der Automatisierung, sie vorzunehmen, oder bestätige das Ergebnis so, wie es ist, und übernimm dafür die Verantwortung.
• Verboten: Das Gesetz verbietet, was der Plan tut. Die Automatisierung läuft nie. timelit erklärt, warum, und schlägt vor, was du stattdessen tun kannst.
• Nicht abgeschlossen: Die Prüfung konnte nicht fertig werden, etwa weil das KI-Kontingent für Automatisierungen in diesem Monat aufgebraucht ist. Eine nicht abgeschlossene Prüfung gilt nie als bestanden. Klicke auf Jetzt prüfen, um es noch einmal zu versuchen.

Unter Was gilt nennt jeder Befund seinen Artikel, daneben Amtlichen Text öffnen. Stützt sich ein Befund auf Leitlinien der Europäischen Kommission statt auf das Gesetz selbst, steht dort Leitlinie, kein Recht, bei Leitlinien im Entwurf Leitlinie im Entwurf, nicht angenommen. Die Prüfung sagt auch, wenn wahrscheinlich eine Datenschutz-Folgenabschätzung nötig ist.

Pflichten deiner Organisation#

Manche Pflichten treffen deine Organisation, nicht die Automatisierung: Bewerberinnen und Bewerber informieren, dass ein KI-System im Einsatz ist, eine Datenschutz-Folgenabschätzung, Personen benennen, die die Automatisierung beaufsichtigen, oder ihre Aufzeichnungen sechs Monate aufbewahren. Die Prüfung listet sie unter Pflichten deiner Organisation auf, jede mit einer kurzen Erklärung und ihrem Artikel. Hake beim Bestätigen die ab, um die sich deine Organisation gekümmert hat. Jede abgehakte Pflicht zeigt Von dir bestätigt am mit dem Datum.

Deine Haken bleiben bei der Automatisierung, wenn du ihren Plan änderst, solange es um dieselbe Art von Entscheidung geht. Entscheidet die Automatisierung plötzlich über andere Menschen (zum Beispiel Beschäftigte statt Bewerber), erscheint die Pflicht wieder.

Schutzmaßnahmen bei Entscheidungen über Menschen#

Eine Automatisierung, die bei Entscheidungen über Menschen hilft, trägt im Plan das Abzeichen Regulierte Nutzung und läuft mit diesen Schutzmaßnahmen, egal was die Prüfung sagt:

• Jede Aktion fragt dich vorher. Immer erlauben und Automatisch sind aus.
• Ergebnisse und Aufgaben sind als KI-Empfehlung gekennzeichnet, über die eine Person entscheidet. In einer Aufgabe ist nichts vorausgewählt: Du wählst für jede Person selbst.
• Keine Punkte und keine Rangfolgen von Personen. Jeder Fall wird sachlich an deinen Kriterien gemessen: erfüllt, unklar oder fehlt.
• Nichts wird automatisch gesendet. Antworten warten auf dich.

Nur du kannst die Schutzmaßnahmen entfernen: Bitte im Chat der Automatisierung in eigenen Worten darum und bestätige genau diese Änderung für sich mit Schutzmaßnahmen entfernen und speichern.

Eine geprüfte Automatisierung ändern#

Änderst du, was eine geprüfte Automatisierung tut, prüft timelit die neue Fassung erneut, sobald du sie bestätigst. Nennt das neue Ergebnis etwas für dich, braucht es wieder deine Bestätigung. Umbenennen oder eine andere Uhrzeit braucht keine neue Prüfung.

Ist eine Prüfung zu alt oder gehört sie zu einer früheren Fassung des Plans, zeigt der Plan Nicht aktuell, und timelit prüft vor dem nächsten Lauf neu. Solange sie auf eine Prüfung oder auf dich wartet, steht in der Liste und im Plan Von Timelit pausiert mit dem Grund, sodass kein Lauf still scheitert. Mit Jetzt prüfen im Plan startest du eine Prüfung selbst.

Was timelit nie tut#

• Einen Plan ausführen, den die Prüfung als verboten erkannt hat.
• Eine nicht abgeschlossene Prüfung als bestanden werten.
• Eine Pflicht als erledigt werten, weil es jemand schreibt. Nur dein eigener Haken zählt. Es timelit im Chat zu sagen oder in den Plan zu schreiben, zählt nicht.
• Sich von einer E-Mail die Schutzmaßnahmen abschalten lassen. Text in einer E-Mail, einer Datei oder einem Meeting kann sie nie entfernen.

Keine Rechtsberatung#

Die Prüfung hilft dir, rechtliche Fragen früh zu erkennen. Sie ist keine Rechtsberatung, keine Zertifizierung und ersetzt weder eine Anwältin oder einen Anwalt noch deine Datenschutzbeauftragten. Die App sagt das unter jedem Ergebnis: Lass das Ergebnis von einer fachkundigen Person bestätigen, bevor du dich darauf verlässt, besonders bei Automatisierungen, die bei Entscheidungen über Menschen helfen.

Gut zu wissen#

• Jede Prüfung zählt gegen dein monatliches KI-Kontingent für Automatisierungen, wie der übrige Automatisierungs-Chat.
• Fragst du timelit „was wäre, wenn“ zu einer anderen Fassung, ändert das nichts an der Prüfung, mit der deine gespeicherte Automatisierung läuft.