Die zwei Gesichter der generativen KI: Industrielle Innovation oder Risiko ohne Sicherheitsnetz? > Nachrichten

In jüngster Zeit nutzen in- und ausländische Branchen generative KI als Schlüsselfaktor für Geschäftsinnovationen. Nach der unternehmensweiten Einführung von ChatGPT durch Samsung Electronics überprüfte SK Hynix auch sein Sicherheitssystem und formalisierte den Einsatz extern generierter KI. Dabei geht es nicht nur darum, Trends zu folgen, sondern um eine strategische Entscheidung zur Sicherung der Wettbewerbsfähigkeit auf dem Weltmarkt durch Maximierung der Effizienz des Forschungs- und Entwicklungsprozesses (F&E) und Beschleunigung der Entscheidungsfindung. Tatsächlich hat Samsung Electronics durch interne Tests bestätigt, dass ChatGPT die höchste Geschäftseignung und Benutzerzufriedenheit aufweist, und verknüpft dies mit der konzernweiten AI Conversion (AX)-Strategie. Unternehmen entscheiden sich heute für Technologien, die über die Leistung ihrer KI-Modelle hinausgehen, basierend darauf, wie gut sie in realen Situationen funktionieren und die Absicht der gestellten Frage genau erfassen.

Allerdings häuft sich die Kritik, dass die Sicherheitsmaßnahmen, die es unterstützen, im Vergleich zur Geschwindigkeit, mit der sich die Technologie verbreitet, immer noch schwach sind. Generalstaatsanwälte aus 12 US-Bundesstaaten richteten Vorladungen an OpenAI, die auf die Sicherheitsprobleme von ChatGPT abzielten. Dies ist eine Warnung, dass wir die sozialen Nebenwirkungen, die KI verursachen kann, nicht länger ignorieren können, wie etwa ihre Verbindung zu Kriminalität, Probleme beim Schutz Minderjähriger und Antworten, die die psychische Angst der Nutzer verstärken. Tatsächlich ist Open AI zum Mittelpunkt rechtlicher und ethischer Verantwortung geworden, da der Verdacht geweckt wurde, dass der Tatverdächtige KI zur Planung des Verbrechens eingesetzt hat oder dass die Reaktionen der KI die extremen Entscheidungen bestimmter Personen beeinflusst haben. Aus Sicht von Open AI, das sich auf einen Börsengang vorbereitet, wirken die Untersuchungen dieser Regulierungsbehörden als große Variable, die die Unsicherheit im Börsennotierungsprozess erhöht.

Selbst für einzelne Benutzer fungiert KI als zweischneidiges Schwert. In jüngster Zeit kam es aufgrund des Diebstahls von Karteninformationen von Personen, die ChatGPT noch nie genutzt hatten, zu mehreren Fällen unbefugter Zahlungen großer Geldbeträge, wodurch eine Lücke im Sicherheitssystem aufgedeckt wurde. Hierbei handelt es sich nicht nur um einen technischen Fehler, sondern um einen schwerwiegenden Sicherheitsvorfall, der die Zuverlässigkeit der Plattform grundlegend gefährdet. Wie im Fall Japans sind auch die Grenzen der KI-Beratung und Fragen der Verantwortung zutage getreten, da immer mehr junge Menschen KI statt Menschen als Beratungsstelle wählen. Obwohl KI über eine herausragende Intelligenz verfügt, um auf Details hinzuweisen, die Menschen übersehen, dürfen wir nie vergessen, dass sie keine Verantwortung für die Ergebnisse ihrer Antworten trägt.

Dennoch funktioniert das Potenzial der generativen KI immer noch als eine warme Technologie, die soziale Barrieren abbaut. Der Busan International Council for the Disabled veröffentlichte eine Sammlung von Sprüchen mit Illustrationen, die von Menschen mit Behinderungen mithilfe von KI erstellt wurden und ein Beispiel dafür zeigen, wie die digital benachteiligte Klasse zu selbstbewussten Schöpfern wird, die über Technologiekonsumenten hinausgehen. Dies beweist den Wert der KI als technologische Wohlfahrt und weist auf die richtige Richtung hin, in die wir uns bewegen sollten. Unterdessen herrscht auf dem koreanischen Markt weiterhin ein harter Wettbewerb zwischen den Diensten, wobei „Claude“ von Antropic das zweistufige System von ChatGPT und Gemini aufmischt und beim Umsatz auf den zweiten Platz springt. Diese Marktdynamik bietet Benutzern bessere Optionen, deutet aber gleichzeitig darauf hin, dass der vorsichtige Ansatz und das Informationsschutzbewusstsein von Benutzern, die verschiedene Modelle parallel nutzen, immer wichtiger werden.