5 Grenzen und ethische Betrachtungen
5.1 Erkennen der Limitationen von ChatGPT
5.1.1 Aktualität der Daten
Eine wesentliche Einschränkung von ChatGPT ist die begrenzte Aktualität der Daten. Das System wurde bis zu einem bestimmten Zeitpunkt (z.B. für ChatGPT-4 war der letzte Wissensstichtag September 2021) mit einem festen Datensatz trainiert und ist nicht in der Lage, Informationen in Echtzeit abzurufen oder sich über aktuelle Entwicklungen zu informieren. Für Experten, die auf die neuesten Daten und Erkenntnisse angewiesen sind, kann dies bedeuten, dass ChatGPT möglicherweise nicht die aktuellsten Informationen liefert, die für ein Gutachten benötigt werden.
5.1.2 Verlässlichkeit der Informationen
Eine weitere Einschränkung ist die Verlässlichkeit der von ChatGPT generierten Informationen. Da das System Informationen aus einer Vielzahl von Quellen sammelt, kann nicht immer garantiert werden, dass die bereitgestellten Daten genau oder zuverlässig sind. Experten müssen daher zusätzliche Schritte unternehmen, um die Genauigkeit und Glaubwürdigkeit der von ChatGPT bereitgestellten Informationen zu überprüfen.
5.1.3 Verständnis komplexer Zusammenhänge
ChatGPT ist zwar in der Lage, große Textmengen zu generieren, es mangelt ihm jedoch an einem tiefen Verständnis komplexer technischer Zusammenhänge. Das System ist in erster Linie darauf ausgelegt, menschenähnlichen Text zu generieren, hat aber nicht die Fähigkeit zur kritischen Analyse oder das tiefe Verständnis, das ein menschlicher Experte in seinem Fachgebiet mitbringt. Dies kann dazu führen, dass ChatGPT in einigen Fällen Antworten liefert, die oberflächlich korrekt erscheinen, sich bei näherer Betrachtung aber als ungenau oder unvollständig erweisen.
5.2 Datenschutz und Urheberrecht
5.2.1 Cloud-basierter Charakter von ChatGPT
Da ChatGPT eine Cloud-basierte künstliche Intelligenz ist, werden alle Anfragen und Antworten über das Internet übertragen. Das bedeutet, dass Daten außerhalb der eigenen Infrastruktur verarbeitet werden. Während dies für allgemeine Informationen unproblematisch sein kann, sollten Experten besonders vorsichtig sein, wenn es um personenbezogene oder vertrauliche Daten geht.
5.2.2 Keine sensiblen Daten eingeben
Es ist ratsam, keine sensiblen oder vertraulichen Informationen in Anfragen an ChatGPT einzugeben. Denn obwohl der Datenverkehr in der Regel verschlüsselt ist, könnten die Daten theoretisch von Dritten eingesehen werden. Darüber hinaus besteht die Möglichkeit, dass Daten zur Wartung und Verbesserung des Dienstes von den Anbietern eingesehen werden.
5.2.3 Datenschutzbestimmungen
Experten, die in der Europäischen Union tätig sind, müssen auch die datenschutzrechtlichen Bestimmungen beachten, insbesondere die Datenschutz-Grundverordnung (DSGVO). Die Nutzung von Cloud-basierten Diensten wie ChatGPT muss im Einklang mit den rechtlichen Anforderungen an den Schutz personenbezogener Daten stehen.
5.2.4 KI und das Urheberrecht
Offene und gelöste Fragen sind (aus einem Webinar des Magazins ct):
- ChatGPT kopiert (idR) nicht.
- Geschützt sind nur Ergebnisse menschlichen Schaffens. Ergebnisse künstlicher Berechnungen unterfallen nicht dem Urheberrecht und können von Jedermann frei verwendet werden.
- Ist ein Text urheberrechtlich geschützt, der von einer KI stammt, aber dann umgearbeitet wurde?
- Umgekehrt: Wie viel Text muss von einer KI umgearbeitet worden sein, damit er den urheberrechtlichen Schutz verliert?
- Wer darf als Autor geführt werden?
- Meldung von KI-generierten Texten an die Verwertungsgesellschaften ist höchstwahrscheinlich Betrug.
- Sollten KI-generierte Texte gekennzeichnet werden?
5.3 Ethische Aspekte
5.3.1 Transparenz und Offenlegung
Ein grundlegender ethischer Aspekt bei der Nutzung von ChatGPT durch Experten ist die Transparenz und Offenlegung gegenüber Kunden und anderen Beteiligten. Es ist wichtig klarzustellen, wann und in welchem Umfang ChatGPT zur Informationsbeschaffung oder Analyse eingesetzt wird. Dies fördert das Vertrauen und stellt sicher, dass die Beteiligten ein klares Verständnis davon haben, wie die Informationen und Schlussfolgerungen im Gutachten zustande gekommen sind.
5.3.2 Abhängigkeit und kritische Bewertung
Experten sollten darauf achten, nicht zu abhängig von ChatGPT zu werden und die von der KI bereitgestellten Informationen stets kritisch zu bewerten. Als Experte auf ihrem Gebiet liegt es in der Verantwortung des Experten, sein Fachwissen und sein Urteilsvermögen einzusetzen, um sicherzustellen, dass die von ChatGPT generierten Daten und Analysen korrekt und angemessen sind.
5.3.3 Verantwortung und Haftung
Bei der Verwendung von ChatGPT muss sich der Sachverständige bewusst sein, dass er letztendlich für die Qualität und Richtigkeit des Gutachtens verantwortlich ist. Es ist wichtig zu erkennen, dass ChatGPT ein Werkzeug ist, das den Experten unterstützt, aber nicht die menschliche Expertise und Verantwortung ersetzt. Sollten durch die Verwendung von ChatGPT Fehler entstehen, muss geklärt werden, wer die Verantwortung trägt und gegebenenfalls haftbar gemacht werden kann.
5.3.4 Unparteilichkeit und Objektivität
Ein weiterer ethischer Aspekt ist die Wahrung von Unparteilichkeit und Objektivität. Da KI-Systeme wie ChatGPT auf historischen Daten trainiert werden, besteht die Möglichkeit, dass sie unbeabsichtigt Vorurteile oder Stereotypen in ihren Antworten widerspiegeln. Experten müssen sicherstellen, dass solche Tendenzen erkannt und korrigiert werden, um zu gewährleisten, dass ihr Gutachten objektiv und frei von Vorurteilen ist.
5.3.5 Datenschutz und Vertraulichkeit
Wie bereits in einem früheren Unterabschnitt erwähnt, ist der Datenschutz ein kritischer ethischer Aspekt. Dabei geht es nicht nur um die Einhaltung gesetzlicher Datenschutzbestimmungen, sondern auch um die ethische Verpflichtung, die Privatsphäre und Vertraulichkeit der anvertrauten Daten zu respektieren und zu schützen. Insbesondere wenn es um persönliche oder sensible Informationen geht, muss ein sorgfältiger und verantwortungsvoller Umgang gewährleistet sein.