KI und Mensch

Im zweiten Teil der elften Episode sprechen Leya und ich über aktuelle Themen, unter anderem auch über die Falschmeldung über eine KI-Drohne die angeblich ihren Piloten versucht hat zu töten. Weitere Themen ist die Neuauflage der Pumuckl-Serie durch RTL, die die Original-Stimme des verstorbenen Sprecherns per KI wieder benutzen wollen. Ebenfalls in den News der EU AI Act (Gesetzgebung über den Einsatz von Künstlicher Intelligenz in Europa) und vieles mehr. News Neue Pumuckl-Serie: RTL ahmt Originalstimme mit KI nach https://www.heise.de/news/RTL-vertont-neue-Pumuckl-Serie-mit-KI-Stimme-9187613.html he AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration https://www.forbes.com/sites/kenrickcai/2023/06/04/stable-diffusion-emad-mostaque-stability-ai-exaggeration/ Deutschlands größte Anime- und Japan-Expo will KI-Content verbieten: https://www.gameswirtschaft.de/events/dokomi-2023-messe-ki-verbot/ Crowd Workers Widely Use Large Language Models for Text Production Tasks https://arxiv.org/abs/2306.07899 Generative A.I. Can Add $4.4 Trillion in Value to Global Economy, Study Says https://www.nytimes.com/2023/06/14/technology/generative-ai-global-economy.html The Urgent Risks of Runaway AI – and What to Do about Them | Gary Marcus | TED https://www.youtube.com/watch?v=JL5OFXeXenA&t=18s EU AI ACT https://www.euractiv.com/section/artificial-intelligence/news/ai-act-enters-final-phase-of-eu-legislative-process/ Reaction: https://www.digitaleurope.org/news/a-text-we-can-work-with-reaction-to-european-parliament-vote-on-ai-act/ "AI Act": EU-Parlament stimmt für Gesetz zu Regulierung von KI https://www.youtube.com/watch?v=Fl5jh-QnApU https://www.deutschlandfunk.de/ai-act-eu-kuenstliche-intelligenz-gefahr-regulierung-100.html https://www.spiegel.de/netzwelt/netzpolitik/ai-act-eu-parlament-will-ki-gesetz-nachschaerfen-a-32d50845-f19a-4fcf-b3ee-b1c45f068465 https://www.washingtonpost.com/technology/2023/06/14/eu-parliament-approves-ai-act/ https://www.nytimes.com/2023/06/14/technology/europe-ai-regulation.html Reaktion von FR Präsident Emmanuel Macron über EU-Regulierung von KI: https://twitter.com/ylecun/status/1669013339723423744 OpenAI, DeepMind will open up models to UK government https://www.politico.eu/article/openai-deepmind-will-open-up-models-to-uk-government/ AI is a Black Box Risiko Künstliche Intelligenz: Wird KI uns zerstören? https://www.zdf.de/nachrichten/politik/ki-kuenstliche-intelligenz-gefahr-zerstoerung-regulierung-politik-100.html https://www.deutschlandfunk.de/zur-zukunft-von-ki-interview-daniel-privitera-gruender-der-ngo-streitgut-dlf-e46bf7e5-100.html GPT-4 Is a Giant Black Box and Its Training Data Remains a Mystery (gizmodo.com) https://gizmodo.com/chatbot-gpt4-open-ai-ai-bing-microsoft-1850229989 What is Black Box AI? Definition from TechTarget https://www.techtarget.com/whatis/definition/black-box-AI Why We Will Never Open Deep Learning’s Black Box | by Paul J. Blazek | Towards Data Science https://towardsdatascience.com/why-we-will-never-open-deep-learnings-black-box-4c27cd335118 Interessante Tools mit KI-Untersützung: https://research.runwayml.com/gen2 https://app.heygen.com/ https://new.express.adobe.com/ https://pixlr.com/de/ https://clipdrop.co/tools https://designer.microsoft.com/ https://www.canva.com/ https://www.deepl.com/write MusicGen von Meta https://huggingface.co/spaces/facebook/MusicGen https://github.com/facebookresearch/audiocraft https://colab.research.google.com/drive/1fxGqfg96RBUvGxZ1XXN07s3DthrKUl4-?usp=sharing Beispiele: https://ai.honu.io/papers/musicgen/ Beispiel (Gen2, Bark, MusicGen): https://twitter.com/rainisto/status/1669050086540599323?s=20 AI Research StyleDrop: Text-To-Image Generation in Any Style https://styledrop.github.io/ https://ai.facebook.com/blog/yann-lecun-ai-model-i-jepa/ https://ai.facebook.com/blog/yann-lecun-advances-in-ai-research/ RE-RENDER A VIDEO: ZERO-SHOT TEXT-GUIDED VIDEO-TO-VIDEO TRANSLATION https://anonymous-31415926.github.io/ Folgt uns auf: Twitter: https://twitter.com/KIundMensch Twitch: https://www.twitch.tv/kiundmensch Youtube: https://www.youtube.com/@kiundmensch

In der neuen Episode von KI und Mensch sprechen wir im ersten Teil über unseren Besuch bei unserer ersten KI-Konferenz hier in München, der Corporate Content Conference (CO3). Wir erzählen von unseren Erfahrungen und Eindrücken vor Ort. Die Konferenz behandelte Themen wie generative KI, maschinelles Lernen und neuronale Netze. Es gab viele Einführungsvorträge für ein breites Publikum. Die Teilnehmer kamen aus verschiedenen Bereichen wie Kunst, Marketing und Universitäten und wollten sich generell mit dem Thema KI beschäftigen. Es gab Diskussionen über Chancen und Risiken von KI sowie ethische Fragen. Die Konferenzteilnehmer kamen zu dem Schluss, dass Eigenverantwortung und gesunder Menschenverstand wichtig sein werden beim Arbeiten mit KI-Werkzeugen. Link-Liste CO3 Konferenz (Programm und Speaker) https://www.corporate-content.com/event-details/co-2023-ai-the-future-of-corporate-content Andere Konferenzen mit KI als Themen Republic (war im Mai 2023) in Berlin, Rise of AI Berlin (war im April) und die demexco Köln (im September) Kostenlose Kurse zum Thema Machiene Lerning (KI): State of GPT https://www.youtube.com/watch?v=bZQun8Y4L2A https://www.deeplearning.ai/short-courses/ https://dlabs.ai/blog/top-10-free-machine-learning-and-artificial-intelligence-courses/ https://www.kaggle.com/general/69415 https://ai.google/build/machine-learning/ https://www.cloudskillsboost.google/paths/118 https://learn.microsoft.com/de-de/training/paths/ai-business-school-education/ https://www.coursera.org/professional-certificates/ibm-machine-learning Folgt uns auf: Twitter: https://twitter.com/KIundMensch Twitch: https://www.twitch.tv/kiundmensch Youtube: https://www.youtube.com/@kiundmensch

Im zweiten Teil dieser Episode, unserem News-Segment, sprechen wir unter anderem über die neuesten Entwicklungen bei NVIDIA, einschließlich einer neuen RTX-GPU und der Avatar Cloud Engine. OpenAI hat ein verbessertes Training für KI-Modelle namens "Prozessüberwachung" vorgestellt und steht vor regulatorischen Herausforderungen in Europa. Nvidia Keynote Computex 2023: NVIDIA hat in seinem Keynote-Vortrag auf der COMPUTEX 2023 seine neuesten Fortschritte im Bereich des beschleunigten Computings vorgestellt. Der CEO Jensen Huang präsentierte die neuesten Modelle der RTX-GPUs sowie die Einführung von Nvidia ACE, Avatar Cloud Engine. NVIDIA ACE for Games Sparks Life Into Virtual Characters With Generative AI: https://www.youtube.com/watch?v=5R8xZb6J3r0  https://twitter.com/hexeract01/status/1663221285210447872 OpenAIs Roadmap für GPT-4 https://humanloop.com/blog/openai-plans OpenAI Studie zur Verbesserung von Trainingsschritten https://openai.com/research/improving-mathematical-reasoning-with-process-supervision Paper: https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf Wie würde sich diese Belohnngs-Methode auf das Paperclip Maximizer-Problem auswirken: Prompt für ChatGPT: https://chat.openai.com/share/3e4ef54a-1fd8-4a5b-a4d5-975140648b27  OpenAI vs. EU https://www.ft.com/content/5814b408-8111-49a9-8885-8a8434022352) https://www.reuters.com/technology/openai-ceos-threat-quit-eu-draws-lawmaker-backlash-2023-05-25/) https://time.com/6282325/sam-altman-openai-eu/) https://www.meedia.de/marken/eu-und-usa-wollen-bei-kuenstlicher-intelligenz-staerker-kooperieren-aec988eb13b4b91c99d981546537ad9c Forderungen von Italien an OpenAI (vom April 2023) https://www.reuters.com/technology/italy-lift-curbs-chatgpt-if-openai-meets-demands-by-end-april-data-protection-2023-04-12/ Jailbreaking LLMs https://www.jailbreakchat.com/ DeppGPT: https://www.der-postillon.com/2023/05/deppgpt.html Open LLMs:  Falcon-40B / 7B https://pub.towardsai.net/falcon-40b-a-fully-opensourced-foundation-llm-945dd9824157 https://twitter.com/cwolferesearch/status/1662504834916929536 MPT-7B https://www.mosaicml.com/ https://huggingface.co/spaces/mosaicml/mpt-7b-storywriter https://huggingface.co/mosaicml/mpt-7b https://huggingface.co/spaces/mosaicml/mpt-7b-instruct Nicht im Stream erwähnt (aber trotzdem spannend): JAX Whisper: https://huggingface.co/spaces/sanchit-gandhi/whisper-jax Übersicht mit ChatGPT Plugins: https://wgmimedia.com/all-chatgpt-plugins/ Newsletter & Tool-Datenbanken https://supertools.therundown.ai/ https://www.therundown.ai/  - https://twitter.com/rowancheung https://www.futuretools.io/ https://futuretools.beehiiv.com/  https://www.youtube.com/@mreflow  https://www.futurepedia.io/ https://www.bensbites.co/ https://twitter.com/bentossell/ https://news.theaiexchange.com/ https://twitter.com/Rachel_L_Woods https://theresanaiforthat.com/

Die dunkle Seite der KI: Risiken, Kritik und die Zukunft der Technologie Willkommen zur neuesten Episode unseres Podcasts, in der wir uns intensiv mit dem Thema "Künstliche Intelligenz und das Risiko des Untergangs" beschäftigen. In dieser Folge diskutieren wir eine Reihe von Quellen und Perspektiven, die sowohl die potenziellen Risiken als auch die Kritik an diesen Warnungen beleuchten. Wir beginnen mit einem Blick auf die Erklärung von www.safe.ai zum Risiko der KI und berichten über Warnungen von Branchenführern, die in der New York Times und anderen Medien aufgegriffen und disktutiert wurden. Eine Studie der Universität Oxford liefert eine düstere Antwort auf die Frage, ob künstliche Intelligenz das Ende der Menschheit bedeuten könnte, während Kritiker diese Warnungen als übertrieben betrachten. Wir werden auch die aktuellen Risiken diskutieren, die in dem Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" (2021) aufgeführt sind, einschließlich der Verstärkung von Vorurteilen und Stereotypen, der Generierung von beleidigender Sprache und der Ausnutzung durch böswillige Akteure. Darüber hinaus werden wir den Energieverbrauch von KI und die Auswirkungen auf die Nachhaltigkeit betrachten, basierend auf einem Artikel von www.zdnet.com. Wir werden auch die Wahrscheinlichkeit des Untergangs durch KI (auch genannt p(Doom) / x-risk) diskutieren, die auf Foren oder Artikeln unter anderem im Time Magazine behandelt werden. Schließlich werden wir die Ansichten verschiedener Experten wie Eliezer Yudkowsky, Yoshua Bengio, Max Tegmark und Geoffrey Hinton beleuchten, die ihre Gedanken und Bedenken zur KI und ihrem Potenzial für Risiken geäußert haben. Wir hoffen, dass diese Episode Ihnen einen umfassenden Überblick über das aktuelle Gespräch rund um KI und Risiken bietet und freuen uns auf Ihre Gedanken und Fragen zu diesem wichtigen Thema. Bleiben Sie dran! Link-Liste für Teil 1: https://www.safe.ai/statement-on-ai-risk https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html https://www.swr.de/wissen/experten-warnen-vor-ausloeschung-der-menschheit-durch-ki-100.html Oxford Studie: https://www.fr.de/wissen/ki-kuenstliche-intelligenz-ende-menschheit-oxford-studie-liefert-duestere-antwort-91821912.html Kritik: https://www.tagesspiegel.de/politik/umweltfolgen-durch-kunstliche-intelligenz-gravierend-forscherin-aus-oxford-kritisiert-ausloschungs-warnung-9911783.html https://theconversation.com/if-were-going-to-label-ai-an-extinction-risk-we-need-to-clarify-how-it-could-happen-206738 Aktuelle Risiken: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (2021) https://dl.acm.org/doi/pdf/10.1145/3442188.3445922 Energy-Consumption: https://www.zdnet.com/home-and-office/sustainability/this-new-aws-tool-shows-customers-the-carbon-footprint-of-their-cloud-computing-usage/ p(Doom) / x-risk: https://forum.effectivealtruism.org/posts/THogLaytmj3n8oGbD/p-doom-or-agi-is-high-why-the-default-outcome-of-agi-is-doom https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ Eliezer Yudkowsky https://twitter.com/ESYudkowsky Yoshua Bengio https://www.bbc.co.uk/news/technology-65760449 Max Tegmark: https://www.channel4.com/news/ai-extinction-threat-is-going-mainstream-says-max-tegmark https://time.com/6273743/thinking-that-could-doom-us-with-ai/ Geoffrey Hinton: https://www.nytimes.com/2023/05/30/podcasts/the-daily/chatgpt-hinton-ai.html Weitere Stimmen: https://twitter.com/abacaj/status/1664237098633658368 https://twitter.com/ylecun https://twitter.com/tdietterich/status/1663602549130432512 https://twitter.com/GaryMarcus/status/1664124885009068032?s=20 https://twitter.com/chrmanning/status/1663920862439915524 Experts survey: https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/ Folgt uns auf: Twitter: https://twitter.com/KIundMensch Twitch: https://www.twitch.tv/kiundmensch Youtube: https://www.youtube.com/@kiundmensch