Safe Superintelligence Inc.: Die Zukunft der KI verantwortungsvoll gestalten

Seit dem großen KI-Boom ist Künstliche Intelligenz in vielen Branchen nicht mehr wegzudenken. Zugleich wachsen aber auch immer mehr die Bedenken. Dabei geht es nicht nur darum, was KI in falschen Händen verursachen kann oder welche Existenzen die neuen Möglichkeiten bedrohen. Mit der rasanten KI-Entwicklung drängt auch immer mehr die Frage, wie man verhindert, dass eine mögliche Superintelligenz auch sicher bleibt. Mittlerweile zählt selbst der Nobelpreisträger Geoffrey Hinton zu den größten KI-Kritikern. Das Unternehmen Safe Superintelligence Inc. ist genau aus dieser Herausforderung entstanden. Ihr Ziel: den Weg zu einer superintelligenten KI zu ebnen, die nicht nur technisch leistungsstark, sondern auch ethisch und gesellschaftlich verträglich ist. Die Gründer selbst sind dabei bereits namhafte Akteure der Branche.

Unter einer Superintelligenz versteht man übrigens eine Künstliche Intelligenz, die dem Menschen in allen oder zumindest in den meisten Bereichen überlegen ist. Eine solche Intelligenz beherrscht sowohl Problemlösungen, als auch kreative und soziale Herangehensweisen. Von einer schwachen Superintelligenz redet man, wenn die Qualität der Ergebnisse auf ähnlichem Niveau des Menschen ist, aber schneller zu den Ergebnissen führt. Eine starke Superintelligenz übertrifft den Menschen sogar in der Qualität der Ergebnisse.

Die Gründer von Safe Superintelligence Inc.

Safe Superintelligence Inc. wurde von einer Gruppe führender Experten im Bereich künstlicher Intelligenz gegründet, um die verantwortungsvolle Entwicklung von Superintelligenzen zu steuern und zu sichern. Einer der prominentesten Mitbegründer ist Ilya Sutskever, ein renommierter Wissenschaftler und Mitentwickler moderner neuronaler Netze. Sutskever war zuvor einer der führenden Köpfe hinter OpenAI (ChatGPT) und hat durch seine bahnbrechenden Arbeiten zur Entwicklung von maschinellem Lernen und Deep Learning maßgeblich beigetragen. Mit seiner Vision einer sicheren und ethischen KI ist er eine treibende Kraft hinter Safe Superintelligence Inc.

Daniel Gross und Daniel Levy sind zwei einflussreiche Unternehmer und Investoren, die zusammen mit Ilya Sutskever die Gründung von Safe Superintelligence Inc. initiiert haben. Daniel Gross ist ein ehemaliger Partner bei Y Combinator und Gründer von Cue, einem von Apple übernommenen KI-Startup. Er bringt seine Erfahrung in der Skalierung innovativer Technologien und seiner strategischen Vision ein. Daniel Levy ist ein erfahrener Investor und Unternehmer mit Schwerpunkt auf Technologie und Nachhaltigkeit. Er ergänzt das Team durch sein fundiertes Wissen über die langfristige Finanzierungs- und Wachstumsplanung von zukunftsweisenden Projekten. Gemeinsam teilen sie mit Sutskever die Vision, künstliche Intelligenz nicht nur leistungsfähiger, sondern vor allem sicher und gesellschaftlich verträglich zu gestalten, und arbeiten daran, Safe Superintelligence Inc. als führendes Unternehmen in diesem Bereich zu etablieren.

Neben Sutskever gehören auch andere Pioniere der KI-Branche sowie Experten aus den Bereichen Ethik, Recht und Philosophie zum Team. Diese interdisziplinäre Ausrichtung soll das Ziel des Unternehmens unterstreichen, technologische Innovation mit gesellschaftlicher Verantwortung zu verbinden.

Die Mission von Safe Superintelligence Inc.

Safe Superintelligence Inc. versteht sich als Vorreiter in der Erforschung und Implementierung sicherer KI-Systeme. Die angestrebte Mission ist es, sicherzustellen, dass diese Technologien zum Wohle aller Menschen eingesetzt werden.

Eine Kernstrategie des Unternehmens ist die Schaffung von Standards und Richtlinien für KI-Entwicklung. Dazu gehört die Forschung an Algorithmen, die nicht nur leistungsfähig, sondern auch transparent und erklärbar sind. Ebenso legt das Unternehmen seinen Fokus auf die Förderung internationaler Kooperationen, um einen globalen Konsens über die sichere Nutzung von Superintelligenz zu erzielen. 

Im September 2024 sicherte sich SSI eine Finanzierung von 1 Milliarde US-Dollar von namhaften Risikokapitalfirmen wie Andreessen Horowitz, Sequoia Capital, DST Global und SV Angel. Diese Investition bewertet das Unternehmen mit 5 Milliarden US-Dollar. Die Mittel sollen in den Erwerb von Rechenkapazitäten und die Rekrutierung von Spitzenkräften fließen. Derzeit beschäftigt SSI zehn Mitarbeiter und operiert von Palo Alto in Kalifornien und Tel Aviv in Israel aus. 

Die Sicherheitsfragen, die mit der Entwicklung von Superintelligenz einhergehen, sind komplex. Safe Superintelligence Inc. arbeitet daran, Szenarien zu identifizieren, in denen KI-Systeme schädlich oder außer Kontrolle geraten könnten, und entwickelt Mechanismen, um solche Risiken zu minimieren. Dies soll technische Schutzmaßnahmen, wie automatische Abschaltvorrichtungen und robuste Fehlermodellierungen, aber auch ethische Überlegungen, wie die Wahrung von Datenschutz und Fairness umfassen. Nobelpreisträger Geoffrey Hinton, der auch als „Urvater Künstlicher Intelligenz“ gilt, äußerte bereits zunehmend Bedenken hinsichtlich der Konzentration von Einfluss und der tatsächlichen Realisierbarkeit sicherer Superintelligenz, sowie der rasanten Fortschritte in diesem Bereich.

Die Vision einer sicheren Zukunft

Safe Superintelligence Inc. sieht eine Zukunft vor, in der superintelligente Systeme nicht nur menschliche Herausforderungen lösen, sondern dies in Übereinstimmung mit den höchsten ethischen Standards tun. Das Unternehmen ist überzeugt, dass Innovation und Verantwortung Hand in Hand gehen müssen, um eine Welt zu schaffen, in der KI ein Werkzeug für das Wohl aller ist.

SSI strebt an, eine führende Rolle in der verantwortungsvollen Gestaltung unserer technologischen Zukunft einzunehmen. Ein lobenswertes Ziel, doch bleibt abzuwarten, ob sich dahinter mehr als bloße Marketingversprechen verbergen. Die Internetpräsenz von SSI ist jedenfalls sehr minimalistisch gehalten und enthält lediglich ihr knappes Manifest vom Juni 2024 ohne große Formatierungen oder sonstiges Webdesign. 


Image via Adobe Firefly (KI-generiert) by Max Kentrat


Artikel per E-Mail verschicken