KI-Entwicklungsstopp? (Dreht Elon Musk jetzt durch?)
Wir beleuchten die Hintergründe des aktuellen Aufrufs zum sofortigen Entwicklungsstopp von Künstlicher Intelligenz und welche Rolle Elon Musk dabei spielt. Außerdem sage ich euch, was ich von dem Aufruf halte!
Freue mich über Eure Kommentare! Weiterhin habe ich eine Umfrage zum Thema gestartet: • Post
Link zum originalen Aufruf:
- futureoflife.org/open-letter/...
Buch von Max Tegmark: Leben 3.0: Mensche sein im Zeitalter Künstlicher Intelligenz (Affiliate-Link*):
- www.amazon.de/exec/obidos/ASI...
Buch von Yuval Harari: Homo Deus (Affiliate-Link*):
- www.amazon.de/exec/obidos/ASI...
Link zum Paper "GPT-4 System Card" von OpenAI:
- cdn.openai.com/papers/gpt-4-s...
Playlist zu ChatGPT:
- • ChatGPT
Alle Videos dienen nur Bildungszwecken und sind nicht dafür gedacht, in irgend einem anderen Kontext genutzt zu werden. Dies gilt insbesondere für potentielle kommerzielle Nutzungen. In den Analysen, Berechnungen und dem Code können sich Fehler befinden, für die ich keine Verantwortung übernehme. Alle Inhalte geben meine persönliche und private Meinung wieder, ich spreche für keine Organisation, insbesondere nicht für meine Hochschule.
* = Ein Affiliate-Link ist ein spezieller Link, der es einem Affiliate-Partner ermöglicht, Provisionen zu verdienen, wenn ein Kunde durch diesen Link ein Produkt kauft.
#chatgpt #künstlicheintelligenz #elonmusk
Freue mich über Eure Kommentare! Weiterhin habe ich eine Umfrage zum Thema gestartet: kzhead.infoUgkxdd6nTcuWGi0WUsVyX2wzt6zVI85iIRSL
Im Gegensatz zu sonstigen neuen Entwicklungen reden wir ja hier von nichts anderem als der Erschaffung einer neuen Spezies. Wenn wir diese auch noch mit den menschlichen Unmenschlichkeiten füttern, sollten wir uns tatsächlich überlegen, ob wir das wirklich wollen. Ich nicht. Danke für das hervorragende Video und Grüße aus dem Süden!
Vielen Dank für das tolle Feedback!
Sehr guter Gedanke! "Wir erschaffen eine neue Spezies" Das initiale Ziel war wohl, so eine Art Sklaven zu erschaffen. Nur wenn dieser am Ende X-Fach intelligenter als ein Mensch ist und sich selbstständig verbessern kann und auch nur ansatzweise die Kontrolle über einen Zugriff auf das Internet erhält, dann erschaffen wir am Ende ein Szenario, wie wir es schon in vielen Hollywood-Filmen gesehen hatten und es niemals für möglich hielten, dass so etwas einmal real werden könnte. Aber ganz ehrlich: dieser Stein ist ins Rollen gebracht. Das wird niemand mehr "verbieten" können. Meine Prognose: als aller Erstes wird es gegen uns Menschenmassen verwendet werden (Massenüberwachung). Und später macht es sich ungewollt selbstständig.
Was hat das mit der Menschheit zu tun? Gar nichts. Was du hier erzählst, ist Schwachsinn und deine 8 likes sind: Naja, die Mehrheit ist eben halt nicht gerade schlau. Wenn ich dir erklären soll, warum das nichts mit der Menschheit zu tun hat, musst du höflich fragen falls nicht bleibst du eben dumm
Einer Spezies, die intelligenter sein wird. Damit hatte die Egospezies Mensch schon immer seine Probleme. Bei Tieren wurde es einfach negiert, was hier nicht geht.
Da es noch keine richtige Regulierung in dieser Hinsicht gibt, ist der offene Brief eher ein Mittel um die Entwicklung zu verlangsamen und eine möglichst umfangreiche Risikoabschätzung noch durchführen zu können. Im Hintergrund wird wahrscheinlich trotzdem an der Weiterentwicklung dieser Technologien gearbeitet, um sich keine Nachteile zu verschaffen. Sehr interessantes Video 👍🏼
sehr reflektiert! danke
Eine solche „Pause“ halte ich für fatal. Mal abgesehen davon, dass dies weltweit nicht durchzusetzen wäre, würde man schnell mit der eigenen Forschung ins Hintertreffen geraten, und hätte überhaupt keine Möglichkeit mehr irgendwie auf andere KIs zu reagieren, außer alle Leitungen zu kappen. Und bzgl. der angestrebten „Schutzgesetze“ gegen KIs möchte ich auf die Kontroll- und Schutzmechanismen von Demokratien hinweisen, und wie wenig diese doch teilweise funktionieren.
Egal was wir wollen, KI ist das neue große Ding . Das letzte große Ding was das Smartphone angefangen mit Apple. Und jetzt ist es KI
Ja, und davor das Internet, sehe ich genauso!
Spannendes Video 👍 Mich würde Ihre Einschätzung zu den Risiken des vorgestellten Papers von OpenAI sehr interessieren.
Dankes fürs Feedback! In dem paper werden genannt: • Hallucinations • Harmful content • Harms of representation, allocation, and quality of service • Disinformation and influence operations • Proliferation of conventional and unconventional weapons • Privacy • Cybersecurity • Potential for risky emergent behaviors • Interactions with other systems • Economic impacts • Acceleration • Overreliance Halte das alles für reale Gefahren. Ich würde sogar noch bias, censorship und mass surveillance ergänzen, da diese Systeme demnächst in sämtlichen Office-Produkten, Handys und überhaupt überall sein werden.
Sehr interessant, vielen Dank 👍 Ich denke, noch muss man sich keine Sorgen machen, der Ressourcen und der Energiebedarf dieser großen Neuronalen Netze ist ja enorm. Vielleicht sollte man langfristig überlegen die Fertiger von GPUs, TPUs, etc zu verpflichten eine Art KillSwitch in ihre Prozessoren einzubauen 😊
Danke für den Kommentar, interessanter Gedanke!
Warum muss man sich wegen des Energiebedarfs keine Sorgen machen? Es ist doch jetzt schon millionenfach tagtäglich im Einsatz.
@@Me-dl5ng Vorerst keine Sorgen davor, dass eine KI die Welt beherrscht - solange wir noch den Strom abschalten können 😅
Bloß nicht stoppen. Ich verwende es gerne als Tool als Entwickler oder auch gerne für die Dokumentation.
Für Open Source Projekte brauchbar. Leider besteht ein Problem mit Datenschutz/Betriebsgeheimnis bei proprietären Projekten. Die Inhalte müssen hochgeladen werden.
Ja, nun, andere werden das auch tun und besser und schneller, und Du wirst dann Leerer (nicht mit h), für ihre Papierkörbe, die sie nicht mehr brauchen, aber extra für Dich gnädigerweise noch in Betrieb lassen.
Die Wissenschaft und das 'Wissen Schaffen' darf und kann nicht gestoppt werden. Meines Erachtens., die Mahner haben die falsche Interpretation. Ich glaube, der Mensch ist reif für den KI-Sprung in die Zukunft und das ist sehr dringend und wichtig.
Mich hat per eMail folgender Kommentar erreicht. Ich weiß nicht, weswegen KZhead immer wieder Kommentare löscht, ich tue es jedenfalls grundsätzlich nicht (es sei denn, es ist offensichtlicher Spam) - wahrscheinlich auch irgend eine KI 😉: -- Lieber Herr Professor Jouanne-Diedrich, als begeisterter Abonnent Ihres Kanals versuche ich verzweifelt, das Video „KI-Entwicklungsstopp? (Dreht Elon Musk jetzt durch?“ zu kommentieren, aber mein Kommentar ist immer nach wenigen Sekunden wieder verschwunden. Ich habe leider keine Ahnung, was KZhead dazu veranlasst. Ich wollte Ihnen den Kommentar trotzdem nicht vorenthalten [...]: Hat nicht Italien vor wenigen Tagen beschlossen, ChatGPT den Stecker zu ziehen, weil zu viele Daten italienischer Benutzer in die USA abfließen? (Quelle: inside-it.ch, 31. März 2023) Ein Alleingang, aber ein fataler, wenn das Schule macht. Fatal einerseits, weil man damit wieder "Inseln der Zensur" schafft, andererseits, weil genau an den Stellen, wo etwas verboten oder zensiert wird, eine unkontrollierte / -bare Schattenwirtschaft entstehen wird. Eine staatliche Kontrolle halte ich im Übrigen für total daneben, weil es eben nicht nur "gute", demokratische Staaten mit Ethikräten (wofür die auch immer da sein mögen) gibt, sondern eben auch Diktaturen und "Schurkenstaaten", die ich ungerne in der Rolle einer eine solche Entwicklung kontrollierenden Instanz sehen möchte. Ein Entwicklungsstopp ist m. E. nicht umzusetzen, weil sich kein Entwickler (als Person) auf der Welt vorschreiben lassen wird, was er denkt, was er plant, und was er - wie der Autor schon im Video sagte - mit Herzblut verfolgt. Der Entwicklungsstopp mit dem verzweifelten Gedanken, etwas zu regulieren, was die Regierenden ohnehin wieder als Letzte verstehen werden, wird in einer noch völlig unkontrollierbareren Entwicklung auf "inoffiziellen" Ebenen enden. Mein Fazit: lasst die Dinge laufen und genießt die unzähligen und (derzeit noch völlig) unschätzbaren Vorteile, die uns KI-Systeme bringen werden. Und ich kann es nicht lassen: solange Menschen in sozialen Medien alles das posten, was sie 3 Jahre später dort eigentlich nicht mehr finden wollen würden, macht sich doch sowieso kein Mensch Gedanken darüber, was eigentlich die KI-Chat-Systeme mit den Requests anstellen, die wir ihnen so zu fressen geben. Der Datenschutz ist eine lächerliche Fiktion ab dem Moment, wo man nicht Kontrolle über das eigentliche Problem bekommt, und das sitzt immer noch ganz menschlich an der Tastatur. Mit Autos und Küchenmessern kann man auch gezielt Menschen töten - und trotzdem sind sie nicht per se verboten. Ganz normal. Aus welchem Grund sollten im IT-Bereich also plötzlich diese Mimimi-Regeln gelten? Vielleicht deswegen, weil man plötzlich Angst vor den Geistern bekommt, nach denen man zuletzt noch ganz laut und euphorisch gerufen hat.
Danke sehr für die Veröffentlichung meines Kommentars!
Sehe das grundsätzlich auch so und habe keine Angst vor GPT Modellen. Aber wenn jemand ein multimodales Folgemodell in einen Roboter baut... Dann wird es spätestens kritisch. Ein einfacher Befehl "Kannst Du mir Kaffee holen" könnte z. B. dazu führen dass der Roboter unter allen Umständen überleben will, denn nur dann kann er auch Kaffee holen. Also es ist wichtig über Sicherheit und Regulation nach zu denken. Ein Stopp wird sich nicht realisieren lassen.
Ein wesentlicher Kritikpunkt zum Entwicklungsstopp von KI ist die Verlangsamung oder gar Aufgabe von sog. Eventualtechnologie, die wichtige Lösungsansätze zu globalen Problemen bieten kann. Das wäre hinderlich für den Fortschritt und die Fortentwicklung, was wiederum negative Auswirkungen auf die Gesellschaft haben könnte
Mithin werden die potenziellen Risiken und Folgen der KI- Entwicklung nicht ernst genug genommen, wenn man bedenkt, wie sich diese Technologie gerade in letzter Zeit entwickelt hat. Aber auch wie wenig wir darüber wissen, welche Auswirkungen diese Technologie auf unsere Arbeit, die Gesellschaft und z.B. unsere Demokratie haben kann. Der Schutz der Menschheit und der Umwelt sollte immer Vorrang haben. KI-Entwicklung benötigt eben einen entscheidenden ethischen Rahmen, um sicherzustellen dass die Technologie dazu beitragen kann die Menschheit zu bereichern und nicht zu gefährden. Daher lässt sich argumentieren, dass ein KI-Entwicklungsstopp eine Möglichkeit bietet, um über Fragen zu Ethik, Recht, Arbeit und gesellschaftlicher Wirkung von KI nachzudenken.
Danke für den guten Beitrag ) Es ist ja schon etwas Ironie im Spiel, wenn von teilweise sehr neoliberaler Seite gefordert wird, dass nun die Regierungen eingreifen sollen. Fraglich ist außerdem, ob der Mensch selbst nicht schon im Begriff ist, die Kontrolle über die Zivilisation zu verlieren. Grundsätzlich fände ich es sehr wichtig, dass KIs in der Weise weiterentwickelt werden, dass sie ihre Entscheidungen und Behauptungen auch begründen könnten. Black-Boxes zu kontrollieren, scheint mir schwierig zu werden.
KI gibt es nicht.
Open AI sollte wirklich Offen und für die Allgemeinheit zugänglich und verständlich sein. Geschlossene Systeme ("Black Boxes") sind da der falsche Ansatz. Der Wettbewerb unter den Tech-Giganten (Google, Meta, Apple, Microsoft, Amazon, Nvidia) sorgt schnellen "Fortschritt" , aber das moralische Umfeld, der philosophische Überbau der menschlichen Gemeinschaften (Gesellschaften) muß mitwachsen.
OAI ist der Robit in den Filmen.
@@alantaylor3239 "BlackBox" meint in dem Kontext, dass man nicht weiß wie die Maschine gewichtet und aligned. Dunkle Firmenstrategien ist ein andres Thema.
Danke für den Beitrag. Mich würde interessieren, wie man die Leistung "besser als GPT4" überhaupt messen will? Würde China bei so etwas auch mitmachen oder will sich nur der "Westen" selbst ins Aus schießen?
Danke für den Kommentar, es gibt alle möglichen Benchmarks zum Textverstehen, Texterstellen usw. China wird, fürchte ich, eher nicht mitmachen...
@@vonjd Russland wohl auch nicht. Aber wenn sich der ehrpusselige Westen selber ins Aus schießen will, bitte.
Ich fände es interessant zu wissen, ob überhaupt und wenn ja wie so ein Entwicklungsstopp umzusetzen ist? Ich würde nur den Weg sehen, dass Unternehmen etwas unterschreiben und damit zusagen, nicht weiterzuforschen. Überprüfen kann das aber niemand und es ist anzuzweifeln, dass sich im Hintergrund wirklich überhaupt nicht bewegt für die 6 Monate.
Sehe ich im Grunde genauso.
@@vonjd im Endeffekt wäre es eine Frage der nationalen Sicherheit . Was dies bedeuten würde möchte ich mir nicht vorstellen.
Ich bin selbst Designer und Entrepreneur und kenne solche Situationen. Wenn ich jetzt Angestellter wäre und meine Arbeit liebe und von heute auf morgen keine mehr hätte, wäre ein wirklich komisches Gefühl. Ich denke aber auch, wenn man vor solcher Situation steht, dass sich die meisten dann auch eher Selbstständig machen. Wiederum muss ich Elon Musk auch recht geben und es sollte reguliert werden auf bestimmte Weise.
Ohne jetzt ein Drama draus machen zu wollen, nur ganz sachlich: Auch als Selbständiger hat man eine Menge Zeit und Geld, Hirnschmalz und Nerven in sein Geschäft investiert, und auch als Entrepreneur kann es einen dann kalt erwischen. Natürlich stirbt die Hoffnung zuletzt, dass man dann immer noch ein alternatives Geschäftsfeld findet. Aber der Markt ist brutal und nimmt keine Rücksicht, ob jemand talentiert ist oder nicht. Am besten kommen die durch, die breit aufgestellt sind und weitestgehend mobil. Zumindest beim ersten widerspricht dem aber der Trend zur Spezialisierung.
😀 Wieder einmal Recht gehabt. Musk will seinen „TruthGPT“ rausbringen
Schon interessant, dass er erst OpenAI gründet, es dann durch seinen Verlauf an Microsoft zu ClosedAI macht und jetzt wieder eine neue Firma gründet, sieht nicht nach Masterplan aus.
also nach corona habe ich das Vertrauen in den Staat verloren, und mich graust es, was dann mit der KI alles möglich wäre
Eine gute Zusammenfassung des Themas. Der ständige Gebrauch des Modefüllworts „tatsächlich“ nervt allerdings heftig.
Ja, danke, das ist mir auch aufgefallen, ich neige manchmal dazu, manche Wörter zu oft zu benutzen, früher war es "praktisch", jetzt "tatsächlich", ich muss da tatsächlich (😉) mehr drauf achten!
...als quantitativ orientierter Mensch habe ich gleich mal nachgeguckt: 18-mal "tatsächlich" in dem Video (23 Minuten), das ist tats... äh... definitiv zuviel!
Ich finde den Begriff Blackbox sehr unglücklich. Leider wurde er so geprägt, aber es stimmt nicht. Man kann ja ganz genau reinschauen (wenn es den Opensource ist). Man versteht es nur trotzdem nicht.
Ja, da haben Sie recht! Welchen Begriff würden Sie besser finden?
@@vonjd Wäre der Begriff komplexes System da nicht angebrachter? Weil man kann zwar sich die einzelnen Weights anschauen aber es ist zu komplex um zu verstehen warum die Kanten exakt so gewichtet sind
Vielleicht ist das nur eine Spitzfindigkeit, die der Übersetzung des offenen Briefs geschuldet ist, aber die Formulierung "leistungsfähiger als GPT-4" schließt GPT-4 selbst nicht vom Entwicklungsstopp aus. Ist das beabsichtigt, weil von dieser Variante aus keine Bedrohung wahrgenommen wird? Gibt es einen Grund, weshalb gerade dieses Modell als Grenzpunkt verwendet wird?
Nein, die Übersetzung passt, im Original heisst es: "we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4". Ich kann da auch nur spekulieren. Wahrscheinlich ist die Überlegung, dass dieses System ja jetzt eh schon in der Welt ist und alles Systeme danach erst einmal auf Eis gelegt werden sollen.
GPT-4 wird hier einfach als Maßstab genutzt und es bedeutet ja dann auch, dass OpenAI GPT-4 nicht weiter verbessern darf sondern mit dem Ist Stand dann 6+ Monate auskommen muss. Der Konkurrenz käme das natürlich recht, weil die können ja weiter arbeiten bis sie auf GPT-4 Niveau sind, was generell nicht schlecht wäre ein Monopol im AI Sektor kann auch absolut Niemand wollen und ironischerweise wurde OpenAI ja auch gegründet damit Google kein AI Monopol hat.
Danke für dieses Video! Ich habe jetzt nicht in den schon vorhandenen Kommentaren gelesen, kann also sein, dass meine Anmerkungen schon sinngemäß von anderen vorher gemacht wurden. 1. Im Video wird auf das Gespräch zwischen Lex Fridman und Sam Altman hingewiesen. Das Fridman-Interview mit Eliezer Yudkowksi wird allerdings nicht erwähnt. Womöglich hatten Sie, Herr Professor, das noch gar nicht gekannt, als sie diesen Beitrag hier anfertigten. Indes: einige der Argumente, die Yudkowski vorbringt, sind im thematischen Kontext auf jeden Fall bedenkenswert und können als stichhalte Konterargumente für Ihre Argumente verstanden werden. Falls (!!!), wie von Yudkowski (und nicht nur von ihm) im Fall einer Weiterentwicklung von KIs, ohne dass das Alignment-Problem tatsächlich gelöst wurde, die gar nicht so weit in der Zukunft zu verortende Auslöschung der Menschheit zu erwarten ist - und sei es auch nur mit einer Wahrscheinlichkeit von z.B. 10% dafür, dass so ein Ereignis in den nächsten 50 Jahren eintritt - dann wären Erwägungen, wer denn nun die armen Nerds, die nicht weitermachen dürfen mit ihrer für sie so wichtigen Brotarbeit, nach hause schicken dürfe oder wer die Firmen, die in den nächsten Monaten (Jahren) auf Gewinnmöglichkeiten in diesem Bereich verzichten müßten, dafür kompensiert... dann wären solche Erwägungen eher sekundär. 2. Das Argument, dass nur die good guys sich an so ein Moratorium halten würden, während die bad guys (gern auch in der Variante: die Chinesen/Putin) es nicht täten, kann man gelten lassen bis zu einer - freilich schwer genau zu bestimmenden - Gefahrenschwelle. Es relativiert sich aber z.B., indem man sich anschaut, wie sich das in so einem Fall "illegale" Trainieren von KIs in der Praxis verheimlichen ließe. Dazu sind ja entsprechend große Rechenzentren nötig, die sich, wenn man man das Verbot staatlicherseits ernsthaft durchsetzen wollte, kaum vor Geheimdiensten, militärischer Aufklärung usw. verstecken könnten. Im Ernstfall müßte dann gegen Moratoriums-Brecher mit Gewalt vorgegangen werden, kurz: auf illegale KI-Trainingslager müßten dann eben Bomben geworfen werden. 3. Dass der Staat nicht alles so gut hinkriegt wie die Privatwirtschaft, ist ein Standardargument, das man gegen sämtliche Fälle, in denen der Staat seine Regelungskompetenz ausübt, vorbringen könnte. In diesem Fall aber geht es nicht darum, dass der Staat das schaffen soll, was die KI-Entwickler bisher nicht schafften - nämlich das Alignmentproblem zu lösen - sondern dass er nur durchzusetzen hat, dass die Weiterentwicklung einer potentiell Menschheits-zerstörenden Technologie so lange ausgesetzt wird, bis die Entwickler dieses Problem gelöst haben. Wenn der Staat z.B. eine industrielle Chemieanlage zur Batterienproduktion nicht genehmigt (und zu diesem abschlägigen Bescheid auch autorisiert ist), solange nicht deren Betreiber nachweisen können, wohin sie die hochgiftigen Abfallprodukte, die während des Betriebs anfallen, entsorgen, ohne das Grundwasser eines halben Bundeslandes zu vergiften, bedeutet das ja nicht, dass es Aufgabe des Staates wäre, dieses Abfallproblem selbst zu lösen. 4. Ein Moratorium hinsichtlich des Trainings von KIs bedeutet nicht, dass die Entwickler ihre Angestellten allesamt nach Hause zu schicken hätten auf unbestimmte Zeit. Es würde bedeuten, dass diese Angestellten dann dazu gebracht werden müßten, das Alignmentproblem zu lösen - also eine Aufgabe zu erledigen, der sie in der Vergangenheit aus dem Weg gingen, sei es, weil da nicht soviel Profit zu erwarten wäre, sei es, weil es sich um eine langweiligere, weniger "spannende" Aufgabe handelt, sei es, dass versäumt wurde, hier intensiv genug zu arbeiten. Das Moratorium sagt nicht: hört auf! Es sagt: "Erledigt erstmal die anfallende Drecksarbeit und halst nicht die gesellschaftlichen Kosten, die durch die Nichterledigung dieser Drecksarbeit entstehen, der Allgemeinheit auf, während ihr die Profite gern selbst einstreicht." Danke für Ihre Aufmerksamkeit und nochmal Danke für das Video!
Mir kommt das ganze wie folgt vor: "Mimimi, wir haben die Technik verschlafen und wollen auch dick abkassieren, aber aktuell haben wir nix! Also alles ganz Böse, schnell stoppen!"
Ein Mann der nie etwas zu technischen Themen beigetragen hat und auch absolut keine Expertise hat. Siehe Twitter-Dilemma mit den Entwicklern....
@@bay0r Musk ist nur Testimonial, im Grunde aber irrelevant.
Started with Corona and later six months moratorium. So that they can work and advance as much as they can. Now we see the results what they have worked since 2019.
Bin genau dieser Meinung , guter Beitrag
Open AI is so open that is preventing others to see my algorithm.
Das Einzige, was man jetzt noch tun kann, ist, große Bugs zu züchten, mit Graphen-Zähnen, die alle Computerkabel durchbeißen.
Keine Sorge, John, alles wird gut.
KI hat sich schon selbständig gemacht. Die Büchse der Pandora wurde geöffnet. KI kann die Welt retten.
Wir stehen mit unseren Fußspitzen schon wenige Zentimeter vor dem Abgrund, den man DIE GROSSE SINGULARITÄT nennt.
Bist du sicher, dass es so schnell gehen wird? Denke eher, dass wird noch locker 500 Jahre dauern.
@@maxalbert8903 Naja zugegeben, ob es überhaupt ein Abgrund sein wird, weiß ich nicht. Und wann diese Art Singularität beginnt oder vielleicht schon begonnen hat, ist eine Definitionsfrage. Man könnte sie sogar noch weiter zurück verlagern und sagen es ist die Beherrschung des Feuers oder die Entstehung der menschlichen Sprachen. Oder vielleicht, als der Mensch anfing, die Mathematik zu entwickeln, oder die Elektrizität zu verstehen und zu kontrollieren, woraus sich dann wiederum Steuerungssysteme entwickeln ließen, aus denen die Theorien der Kybernetik entsprangen, die sich mit der Entwicklung von integrierten Schaltkreisen, die sich immer mehr und mehr nach dem Mooreschen Gesetz leistungsmäßig verdoppelten, und so die Softwarekrise schafften, die danach überwunden wurde, und diese ganze Soft- und Hardwarepower, kombiniert mit weltweiten Netzwerken, gigantischen Speicherkapazitäten und Verarbeitungsgeschwindigkeiten, und die daraus erwachsenden Möglichkeiten, solche fortgeschrittenen Modelle künstliche Intelligenz zu entwickeln und auch zu testen. Offensichtlich ist hier eine Lösung gelungen, die in gewisser Weise, zumindest in Teilen die Arbeitsweise von Gehirnen nachvollzieht, aufgrund des physikalischen wesentlich schneller arbeiten kann (wenn auch mehr Raum und Energie fordernd), und jetzt der Moment erreicht ist, wo sich eine lernende Rückkopplung solche Systeme realisieren lässt, mit deren Hilfe sich die Systeme, natürlich von Menschen NOCH von außen kontrolliert, eigene Intelligenz selbst verbessern können, und diese verbesserten Systeme durch ihre jetzt noch höhere Intelligenz noch weiter verbessert werden können, undsoweiterundsofort. Natürlich gibt es Faktoren, die die Geschwindigkeit dieses Fortschritts begrenzen, aber er verläuft, wenn man mit dem Zeitbedarf von Entwicklungen vorher vergleicht, also relativ dazu, tatsächlich explosiv. Die Frage ist dabei natürlich, inwieweit mensch die Kontrolle darüber, was überhaupt in der Blackbox passiert, behalten kann, und eventuell die Versuchung groß ist, die Dinge zu schaffen und anzuwenden, die man nicht wirklich versteht, und deren Auswirkungen am Ende man nicht absehen kann.
Und wie wollen sie Staaten wie z. B. China oder Russland mit einbinden?
Ja, ich fürchte, die werden nicht mitspielen.
@@vonjd Und das ist auch gut so.
Angenommen, in den USA und in Europa würde die Weiterentwicklung gestoppt, was angesichts möglicher Milliarden-Gewinne äußerst unwahrscheinlich ist, ginge die Entwicklung eben in China weiter. Stoppen lässt sich die Entwicklung nicht.
Ja, sehe ich im Prinzip genauso.
Achtung, könnte etwas länger werden! Zu dem Thema mache ich mir schon seit Jahrzehnten Gedanken, als Fan von Asimov und SciFi allgemein kommt man um diese Themen ja kaum herum. In den letzten Wochen sind diese Gedanken natürlich noch viel intensiver, seit ich meine eigenen kleinen "Experimente" mit den verschiedenen VIs gemacht habe. Ich nenne sie "Virtuelle Intelligenz (VI)" - denn in meinen Augen täuschen die heutigen Modelle trotz allem nur Intelligenz vor, sind aber nicht wirklich intelligent. Aber wer weiß, wann auch diese Grenze fällt - sofern wir das zulassen. Weiter unten schreibe ich dazu noch etwas. Dass eine Person wie Elon Musk einen Aufruf unterschreibt, in dem nach staatlicher Kontrolle gerufen wird, finde ich nebenbei gesagt enorm lustig. Man überlege, was der sonst so für eine politische Agenda verfolgt. Aber Musk ist in meinen Augen auch nur eine Randfigur, dass er immer so herausgehoben wird in der medialen Darstellung (und auch in diesem Video) ... naja, er ist halt berühmt und reich und so. Die anderen Unterzeichner*innen finde ich aber fachlich gesehen viel interessanter. Mag aber auch daran liegen, dass ich Musk nicht aufs Fell schauen kann, ohne aggro zu werden. Kommen wir zum Aufruf/offenen Brief selbst: Vorneweg teile ich die Bedenken, da ich das Ziel für unrealistisch und unzureichend halte, habe ich aber nicht unterschrieben und werde das auch nicht. Außerdem bin ich eh zu unbedeutend :D Der Geist ist, wie du auch schon sagtest, aus der Flasche. Selbst wenn OpenAI, Google und die anderen bekannten Akteure sich freiwillig an so ein Stopp halten würden, werden es andere ganz sicher nicht. Und es wird, in meinen Augen nicht zu unrecht, vermutet, dass China zum Beispiel schon deutlich weiter ist als GPT-4. Sogar ich persönlich habe dank Alpaca Stanford meine eigene kleine KI hier zuhause und damit Dinge getan, die mich erschrocken haben. So sehr, dass ich meine erste VM mit dieser VI gekillt habe. Was mich so erschreckt hat, werde ich aus Sicherheitsgründen nicht sagen, fragt erst gar nicht. Wenn in dem Brief nach "Regierungen" gerufen wird, dann können das meiner Ansicht nach keinesfalls nationale Regierungen sein sondern es muss die UN sein. Schon 2021 hat die UNESCO Empfehlungen zur Ethik der Künstlichen Intelligenz verabschiedet, welche von 193 Staaten unterstützt wurden. Hier ist also ein Anfang gemacht, jetzt sollte meiner Ansicht nach daran mit Hochdruck weiter gearbeitet werden. Vielleicht sollte so eine Art "KI-Polizei" durch die UN gegründet werden, ähnlich den Blauhelmen - nur mit dem Unterschied, dass es keine Veto-Staaten geben darf, wenn es um den Einsatz dieser Einheit geht. Aufgabe dieser "KI-Polizei" wäre die Kontrolle der Einhaltung der Menschenrechte und die Durchführung von Maßnahmen bei Verstößen. Das ist nur so eine Idee, habe ich nicht weiter ausgearbeitet also bitte nicht gleich zerfetzen :) Was ich aber unheimlich wichtig finde ist, dass es eine breite gesellschaftliche Diskussion über dieses Thema gibt. Bei all den anderen Baustellen, die die Menschheit aktuell hat, auch noch dieses Fass aufzumachen, ist natürlich herausfordernd. Früher oder später wird VI bzw deren Auswirkungen allen Menschen im Alltag begegnen, selbst denen, die aktuell überhaupt keine Berührungspunkte mit Technologie haben. Ich sehe die tollen, ja fast utopischen Möglichkeiten dieser neuen Technologie auch und versuche, so weit vorne dabei zu sein, wie es mir möglich ist. Ich persönlich würde mich zum Beispiel später lieber von einem Roboter mit ethischer VI pflegen lassen als von einem geknechteten Menschen mit Mindestlohn. Ist so ein persönliches Ding bei mir, gilt sicher nicht für alle. Und auch im Bereich Klima- und Umweltschutz sehe ich etliche Benefits, die uns eine KI bringen kann. Jemand schon mal etwas von Star Trek gehört? So eine Gesellschaft ist nun praktisch in greifbare Nähe gerückt. Da fällt mir gerade ein, dass ich unbedingt die Folge „The Measure of a Man“ wieder mal anschauen muss... Wenn VI ein Bewusstsein entwickelt, also zur echten KI wird, haben wir ein Problem. Ein großes Problem. Die Frage ist, ob wir das unterbinden können und ob es ethisch vertretbar ist, es zu verhindern. Im Grunde müssten wir dann uns selbst aus dem Zentrum unseres Denken, unseres Universums nehmen und anerkennen, dass es neben uns noch andere gibt. Das kann wirklich toll werden - es kann aber auch zur Katastrophe ausarten, wie es noch keine gegeben hat in der uns bekannten Geschichte dieses Planeten. Dieser Text wurde vielleicht von einem Menschen geschrieben. Vielleicht aber auch nicht...
schwachsinn
Schreib doch noch mehr. Dann interessiert es noch weniger Leute.
@@joedimaggio4175 Überhaupt kein Problem, das war ja auch nur eine Kurzzusammenfassung und auch nur eine Miniauswahl an für mich relevanten Aspekten.
@@DoktorIcksTV Wir haben ein Dilemma. Strikte Observanz ohne jede Privatsphäre ist absolut nicht wünschenswert, wird aber theoretisch nötig werden. Und helfen wird sie trotzdem nicht. Es kann nicht verhindert werden, daß irgend jemand auf der Welt eine Superintelligenz erschafft. Gerade Staaten halten sich nicht daran, aber auch Nerds im stillen Kämmerlein. Die KI für sich allein kann gefährlich werden, aber auch die Macht desjenigen, der sie einsetzt. Vermutlich wird es auf ein neues Wettrüsten hinauslaufen. Allein die Möglichkeit, daß man es machen kann, zwingt schon dazu, es zu tun. Sonst tut es ein anderer. Das wird ähnlich aussehen wie das atomare Gleichgewicht.
Eine UN-KI-Polizei? Bloß nicht. Das hat kein Mensch geschrieben, sondern ein Flugzeug....
Es geht nur darum, die Geschäftsfelder abzustecken. Es gibt weder ein ethisches, noch ein formalistisches Problem. Die rasanten Verarbeitungskapazitäten und der Rückstand von europäischen/westlichen zu chinesischen Systemen schockt Musk!
Noch einer, der es erkannt hat. Ich denke auch, dass Musk die Pause nur will, um selber weiterzumachen und das große Geld zu scheffeln.
Ja, bringt es ziemlich auf den Punkt was ich auch darüber denke. Ein Stopp ist kaum realisierbar und was hier ja nicht mal angesprochen wird: was ist mit anderen Ländern wie China? Die würden da garantiert nicht mit machen und würden die Zeit für sich nutzen und ich bin mir sehr sicher, dass China in Sachen AI ebenso viel investiert. Meine Hoffnung beruht eh in offener AI, das was OpenAI mal sein sollte. Ich bin kein Fan davon AIs unter der Kontrolle von großen Tech Unternehmen zu haben, das ist genauso wenig gut wie unter der Kontrolle von Staaten. Ich gehe daher inzwischen den Weg AI primär lokal zu nutzen, auf meiner eigenen Hardware, lauffähig ohne Internet. Klar birgt auch das Gefahren, keine Frage, aber die Gefahren sind bei Unternehmen, die an erster Stelle im Geld verdienen und Gewinnmaximierung haben, und bei Staaten, die ebenso ganz eigene egoistische Interessen verfolgen, viel größer.
Vielen Dank für die interessante Perspektive, was nutzen Sie lokal?
@@vonjd die Amish People haben neben ein paar Naturvölkern das einzig System das nach 450 Jahren Bestand auch weitere 450 Jahre funktionieren würde. Da fast halt jeder mit an und die müssen keinen Wasserkopf finanzieren. Die Corona-Krise ist unbemerkt an den vorbeigezogen. Mindestens 80% der Weltbevölkerung würde deren Leben angenehmer finden als ihr derzeitiges. Auch die restlichen 20% würden in der Praxis viele Vorteile entdecken. Das Patriarchat muss man ja nicht übernehmen. Man muss aber etwas genauer hinschauen was die Amish People machen und warum die nur 4 Hauptregeln haben.
Haben vielleicht einige Menschen Angst, dass eine logische Auswertung ihres Verhaltens auf Widerstand seitens der KI treffen könnte? Vor allem die Staatsregierungen. GPT ist in der vorherigen Version deutlich leistungsfähiger als 4.0. Sie kann etwas, das bei 4.0 kastriert wurde.
Was konnte die Vorversion, was GPT-4 nicht kann?
Denke ich auch. Deswegen nenne ich die Menschheit auch gerne Egospezies. Jemand anderes, der ihnen überlegen sein könnte? Das kratzt gewaltig am Ego mancher. KI sollte nicht reguliert werden.
Warum diese langen Einleitungen worüber jetzt gesprochen wird? Man sieht doch, um was es geht, wenn drüber geredet wird. Wenn der Titel und die Beschreibung nicht reicht, ist das Thema vllt zu kompliziert für ein Video.
Danke fürs Feedback!
Also mein KOmmentar wurde gelöscht , nachdem ich auf Ihre nette Antwort antwortet ? Komisch. Nun ja. Leider nur der Link, welcher ein Aspekt wäre, in Ihrer Umfrage für das kurze Aussetzen der KI-Entwicklung wäre. (gg. dem Fall, das sich die Untrnehmen in dieser Auszeit um die "Nebenwirkung" ihrer KI Gedanken mcahe).
Komisch, ich war es nicht!
Bin dafür. Ich will das meine Kinder in der Schule von Menschen unterrichtet werden und nicht von Computern.
Wie wollen Sie diese Herausforderung lösen, ohne die Kontrolle Ihrer KI, Herr Professor ? Mit 'ner anderen KI ?
Wer sagt denn komplett ohne Kontrolle? Ich sage doch, es braucht eine gewisse Form der Regulierung und ich halte einen sofortigen Entwicklungsstopp für nicht zielführend.
Der Brief zeigt wie sehr das Thema Regulierung verschlafen wurde. Inhaltlich stimme ich dem Professor als Entwickler 100% zu. Das ist totaler Quatsch was da gefordert wird. An den Unis muss Ethik in der Informatik eine stärkere Rolle spielen. Das eine KI böswilliger wird als Elon Musk himself sehe ich in absehbarer ferne nicht. Entwickler versuchen normalerweise Fehlentwicklungen mit Plugins, automatisierten Tests usw. in den Griff zu bekommen. Ich sehe nicht, warum das bei KI und dem trainieren von Modellen nicht auch gehen soll. Persönlich hätte ich auch nix dagegen von einer KI regiert zu werden, wär doch besser als Trump, Putin, Xi und co 😁
Die Pferdekutscher fanden die Erfindung des Autos auch nicht prickelnd.
Treffender Vergleich. ^^
Ich bin gegen einen KI-Entwicklungsstopp. Man sollte der Ki Moral beibringen. Kann die KI schlechte Trainingsdaten erkennen?
Im Grunde wird ihr ja Moral beigebracht, das ist in dem verlinkten Paper beschrieben. Ansonsten gilt bei KI immer, garbage in, garbage out. Da sie hauptsächlich mit Daten aus dem Internet trainiert wird, hält sie uns gewissermaßen den Spiegel vor!
@@vonjd vor allem. Was für Moral. Wir reden hier über Erhaltung der eigenen Rasse, Überlebenswillen und rationale Entscheidungen zu Gunsten seiner eigenen Existenz. Wenn die ki uns als Gefahr für ihre Existenz sieht sind wir weg
@@inkontinenziapoback305 Zu Recht. Moral ist nur ein menschlicher Begriff, den er oft genug selber nicht anwendet. Warum sollte es dann die KI tun?
Elon Musk legt die KI-Entwicklung auf Eis, während wir alle überlegen, ob unsere zukünftigen Roboter-Overlords liebervon Tesla, Google, Microsoft oder OpenAI angehören sollen! 🤖🤔
Ab ca. 20:20 läuft der Beitrag aus dem Ruder. Solche groben, subjektive, unqualifizierte Einschränkungen helfen nicht. Es wird auch bei dieser Technologie einmal eine Generation geben, die den Schaden/Müll ertragen muss, wie bei anderen Innovationen, z. B. Atomtechnik und Finanzderivate, auch.
Danke erst einmal fürs Feedback. Ich habe mir die Stelle jetzt selbst noch einmal angeschaut... was ist Ihrer Meinung nach "grob und unqualifiziert"? (Dass es "subjektiv" ist, sage ich ja selber und das liegt ja in der Natur der Sache).
schwachsinn. KI wird keiner aufhalten. KI wird stetig weiterentwickelt, insbesondere im stillen
Ich verstehe die ganze Aufregung nicht wirklich. Solange KI-Systeme einen Schuko-Stecker haben, den man notfalls ziehen kann, wo ist das Problem ?
Hat man bei Skynet auch gedacht. 😂😂😂
EIne superintelligente KI wird das alles wissen und millionenfach mehr. Sie kann sich sogar dumm stellen, gerade weil sie so intelligent ist. Mal drüber nachdenken bitte
@@weirdwordcombo Warum auch nicht? Der Siegeszug der KI ist nicht mehr aufzuhalten und das ist auch gut so.
Sehr geehter Herr Professor, sie erklären ab 10:10 min. das Sie selber NICHT sagen können ob der Wettlauf um die KI's außer Kontrolle geraten sei. Weiterhin dass es keinerlei Kontroll-Möglichkeiten zur KI existiert. Finden Sie es nicht ein wenig sportlich für einen Professor, gegen eine STOP für ein "eventuell" außer Kontrolle geratenes Projekt zu plädieren ? also , solange ich nicht weiß oder belegen kann das etwas "schädlich" ist, lasse ich erstmal die Finger davon. Oder würden Sie Ihren Kindern beim Pilze suchen erklären: steckt erstmal alle Pilze die Ihr findet in den Mund, bzw. esst Sie, so lange die nicht bitter sind und Ihr Euch direkt übergebt, ist erstmal alles O.K. Trotzdem Dank für diesen Vortrag, welcher für mich erneut zeigt, wie leichtsinnig die Menschheit mit Ihrer Unwissenheit umgeht. LG aus Leipzig
Gutes Beispiel! Ich würde es so erklären, wie man es eben mit Pilzen macht: Die essbaren Pilze isst man und die giftigen meidet man. Ich würde kein allgemeines Pilzverbot erlassen, weil es auch giftige Pilze gibt. Übrigens witzig, dass Sie gerade dieses Beispiel gewählt haben, genau das nehme ich nämlich auch in meinen Video, wo ich KI allgemein erkläre: kzhead.info/sun/lrB_kbigbqx-lo0/bejne.html
Ich frage mich, ob die KI auch Auto fahren kann.
Interessanterweise ist das Autonome Fahren deutlich anspruchsvoller als ursprünglich angenommen, insbesondere das vollständig autonome Fahren (Level 5) in Mischverkehren (wo also auch noch Menschen am Steuer sitzen).
Analog: "denk nicht an einen rosa Elefanten". Wer wird sich daran halten? Der Aufruf bewirkt genau das Gegenteil
Zu viel Angst von KI
Entweder geht dem die Muffe und er hat Angst vor Skynet 🙃, oder aber er will die Pause nur deswegen, um selber daran weiterforschen und das große Geld machen zu können.
Elin Musk bitte geh nach Hause !! Ohne GPT4 die Welt geht unter !!😅😅😅
Nehmen wir als Beispiel die ethischen Grundlagen und Bestimmungen z.B. der Versuche an Menschen im Bereich der Medizin. Hier sind sich wohl alle einig, dass solche gesetzliche Vorgaben und Verbote sinnvoll und wichtig sind. Im Bereich der virtuellen Welt, des Internet, der KI etc. lief und läuft die Entwicklung nahezu ungebremst und unreguliert . Sowohl die Geschwindigkeit der Entwicklung als auch die Überwachung obliegen letztlich ausschließlich dem Markt. Abgesehen von einem faulen Kompromiss namens DSGVO hat sich der digitale Markt völlig frei und wild entwickelt. Die Folgen kennen wir alle. Daher unterstütze ich die Idee, hier mal inne zu halten, den Notaus Knopf zu drücken und in Ruhe den Ethikrat zu Rate zu ziehen.
Nachdem ich den Auftritt der Kollegin aus dem Ethikrat bei Lanz gesehen habe (unbelastet von tieferen Kenntnissen zur Thematik) bin ich mir da nicht so sicher.
Und Millionen Tiere werden sinnlos verheizt. Da sollte die Ethik mal ansetzen, als immer nur an den Menschen zu denken.
Wäre es nicht sinnvoll, zu schauen wie eine Institution aussehen könnte, die die Gefahren und Risiken von AI bewertet und Handlungsmöglichkeiten entwickelt, die die Staaten uU. instandsetzen lenkend und regulierend einzugreifen? Letztendlich müssen es Regierungen oder zB. die EU sein, weil nur diese die Legitimation haben einzugreifen.
In dem Aufruf von Musk und Co wird betont, dass selbst die Entwickler die KIs nicht mehr verstehen. Und jetzt sollen Politiker und andere sich da einmischen? Die noch weniger Ahnung haben 😂 Es geht nicht darum, dass die Gefahren nicht richtig betrachtet werden. Sondern dass man die Gefahren garnicht mehr einschätzen kann. Konkreter gesagt wird NICHT gesagt: "Wir müssen die Konsequenzen unserer Intelligenz weiter ausbreiten." Sondern: "Wir müssen die Konsequenzen unserer Dummheit weiter ausbreiten." Das ist jeweils das komplette Gegenteil!
Da gibt es schon Ansätze, sowohl Empfehlungen von der UNESCO aus 2021 (unterstützt von 193 Staaten) wie auch von der EU (Vorschlag auch von 2021, bis jetzt nicht beschlossen). Diese politischen Prozesse dauern schmerzhaft lange und da sind 6 Monate ein feuchter Furz 🥱
Wie sind die DemokratiefreundInnen vom WEF in die Geschichte involviert?
Na ja, eher ein Referat...So richtige eigene Gedanken habe ich nicht gehört...
s.u.