KI und Mensch

Im zweiten Teil der elften Episode sprechen Leya und ich über aktuelle Themen, unter anderem auch über die Falschmeldung über eine KI-Drohne die angeblich ihren Piloten versucht hat zu töten.





Weitere Themen ist die Neuauflage der Pumuckl-Serie durch RTL, die die Original-Stimme des verstorbenen Sprecherns per KI wieder benutzen wollen. Ebenfalls in den News der EU AI Act (Gesetzgebung über den Einsatz von Künstlicher Intelligenz in Europa) und vieles mehr.


News




Neue Pumuckl-Serie: RTL ahmt Originalstimme mit KI nach


https://www.heise.de/news/RTL-vertont-neue-Pumuckl-Serie-mit-KI-Stimme-9187613.html





he AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration


https://www.forbes.com/sites/kenrickcai/2023/06/04/stable-diffusion-emad-mostaque-stability-ai-exaggeration/





Deutschlands größte Anime- und Japan-Expo will KI-Content verbieten:


https://www.gameswirtschaft.de/events/dokomi-2023-messe-ki-verbot/





Crowd Workers Widely Use Large Language Models for Text Production Tasks


https://arxiv.org/abs/2306.07899





Generative A.I. Can Add $4.4 Trillion in Value to Global Economy, Study Says


https://www.nytimes.com/2023/06/14/technology/generative-ai-global-economy.html





The Urgent Risks of Runaway AI – and What to Do about Them | Gary Marcus | TED


https://www.youtube.com/watch?v=JL5OFXeXenA&t=18s





EU AI ACT


https://www.euractiv.com/section/artificial-intelligence/news/ai-act-enters-final-phase-of-eu-legislative-process/


Reaction: https://www.digitaleurope.org/news/a-text-we-can-work-with-reaction-to-european-parliament-vote-on-ai-act/


"AI Act": EU-Parlament stimmt für Gesetz zu Regulierung von KI https://www.youtube.com/watch?v=Fl5jh-QnApU


https://www.deutschlandfunk.de/ai-act-eu-kuenstliche-intelligenz-gefahr-regulierung-100.html


https://www.spiegel.de/netzwelt/netzpolitik/ai-act-eu-parlament-will-ki-gesetz-nachschaerfen-a-32d50845-f19a-4fcf-b3ee-b1c45f068465


https://www.washingtonpost.com/technology/2023/06/14/eu-parliament-approves-ai-act/


https://www.nytimes.com/2023/06/14/technology/europe-ai-regulation.html





Reaktion von FR Präsident Emmanuel Macron über EU-Regulierung von KI:


https://twitter.com/ylecun/status/1669013339723423744





OpenAI, DeepMind will open up models to UK government


https://www.politico.eu/article/openai-deepmind-will-open-up-models-to-uk-government/





AI is a Black Box


Risiko Künstliche Intelligenz: Wird KI uns zerstören?


https://www.zdf.de/nachrichten/politik/ki-kuenstliche-intelligenz-gefahr-zerstoerung-regulierung-politik-100.html


https://www.deutschlandfunk.de/zur-zukunft-von-ki-interview-daniel-privitera-gruender-der-ngo-streitgut-dlf-e46bf7e5-100.html


GPT-4 Is a Giant Black Box and Its Training Data Remains a Mystery (gizmodo.com)


https://gizmodo.com/chatbot-gpt4-open-ai-ai-bing-microsoft-1850229989


What is Black Box AI? Definition from TechTarget


https://www.techtarget.com/whatis/definition/black-box-AI


Why We Will Never Open Deep Learning’s Black Box | by Paul J. Blazek | Towards Data Science


https://towardsdatascience.com/why-we-will-never-open-deep-learnings-black-box-4c27cd335118





Interessante Tools mit KI-Untersützung:


https://research.runwayml.com/gen2


https://app.heygen.com/


https://new.express.adobe.com/


https://pixlr.com/de/


https://clipdrop.co/tools


https://designer.microsoft.com/


https://www.canva.com/


https://www.deepl.com/write





MusicGen von Meta


https://huggingface.co/spaces/facebook/MusicGen


https://github.com/facebookresearch/audiocraft


https://colab.research.google.com/drive/1fxGqfg96RBUvGxZ1XXN07s3DthrKUl4-?usp=sharing


Beispiele: https://ai.honu.io/papers/musicgen/


Beispiel (Gen2, Bark, MusicGen): https://twitter.com/rainisto/status/1669050086540599323?s=20





AI Research


StyleDrop: Text-To-Image Generation in Any Style


https://styledrop.github.io/





https://ai.facebook.com/blog/yann-lecun-ai-model-i-jepa/


https://ai.facebook.com/blog/yann-lecun-advances-in-ai-research/





RE-RENDER A VIDEO: ZERO-SHOT TEXT-GUIDED VIDEO-TO-VIDEO TRANSLATION https://anonymous-31415926.github.io/





Folgt uns auf:





Twitter: https://twitter.com/KIundMensch


Twitch: https://www.twitch.tv/kiundmensch


Youtube: https://www.youtube.com/@kiundmensch

In der neuen Episode von KI und Mensch sprechen wir im ersten Teil über unseren Besuch bei unserer ersten KI-Konferenz hier in München, der Corporate Content Conference (CO3). Wir erzählen von unseren Erfahrungen und Eindrücken vor Ort.


Die Konferenz behandelte Themen wie generative KI, maschinelles Lernen und neuronale Netze. Es gab viele Einführungsvorträge für ein breites Publikum. Die Teilnehmer kamen aus verschiedenen Bereichen wie Kunst, Marketing und Universitäten und wollten sich generell mit dem Thema KI beschäftigen.


Es gab Diskussionen über Chancen und Risiken von KI sowie ethische Fragen. Die Konferenzteilnehmer kamen zu dem Schluss, dass Eigenverantwortung und gesunder Menschenverstand wichtig sein werden beim Arbeiten mit KI-Werkzeugen.





Link-Liste


CO3 Konferenz (Programm und Speaker)


https://www.corporate-content.com/event-details/co-2023-ai-the-future-of-corporate-content





Andere Konferenzen mit KI als Themen


Republic (war im Mai 2023) in Berlin,


Rise of AI Berlin (war im April) und die demexco Köln (im September)





Kostenlose Kurse zum Thema Machiene Lerning (KI):


State of GPT https://www.youtube.com/watch?v=bZQun8Y4L2A https://www.deeplearning.ai/short-courses/ https://dlabs.ai/blog/top-10-free-machine-learning-and-artificial-intelligence-courses/ https://www.kaggle.com/general/69415 https://ai.google/build/machine-learning/ https://www.cloudskillsboost.google/paths/118 https://learn.microsoft.com/de-de/training/paths/ai-business-school-education/ https://www.coursera.org/professional-certificates/ibm-machine-learning





Folgt uns auf:





Twitter: https://twitter.com/KIundMensch


Twitch: https://www.twitch.tv/kiundmensch


Youtube: https://www.youtube.com/@kiundmensch

Im zweiten Teil dieser Episode, unserem News-Segment, sprechen wir unter anderem über die neuesten Entwicklungen bei NVIDIA, einschließlich einer neuen RTX-GPU und der Avatar Cloud Engine. OpenAI hat ein verbessertes Training für KI-Modelle namens "Prozessüberwachung" vorgestellt und steht vor regulatorischen Herausforderungen in Europa.








Nvidia Keynote Computex 2023:


NVIDIA hat in seinem Keynote-Vortrag auf der COMPUTEX 2023 seine neuesten Fortschritte im Bereich des beschleunigten Computings vorgestellt. Der CEO Jensen Huang präsentierte die neuesten Modelle der RTX-GPUs sowie die Einführung von Nvidia ACE, Avatar Cloud Engine.


NVIDIA ACE for Games Sparks Life Into Virtual Characters With Generative AI: https://www.youtube.com/watch?v=5R8xZb6J3r0 


https://twitter.com/hexeract01/status/1663221285210447872





OpenAIs Roadmap für GPT-4


https://humanloop.com/blog/openai-plans





OpenAI Studie zur Verbesserung von Trainingsschritten


https://openai.com/research/improving-mathematical-reasoning-with-process-supervision


Paper: https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf





Wie würde sich diese Belohnngs-Methode auf das Paperclip Maximizer-Problem auswirken:


Prompt für ChatGPT: https://chat.openai.com/share/3e4ef54a-1fd8-4a5b-a4d5-975140648b27 





OpenAI vs. EU


https://www.ft.com/content/5814b408-8111-49a9-8885-8a8434022352)


https://www.reuters.com/technology/openai-ceos-threat-quit-eu-draws-lawmaker-backlash-2023-05-25/)


https://time.com/6282325/sam-altman-openai-eu/)








https://www.meedia.de/marken/eu-und-usa-wollen-bei-kuenstlicher-intelligenz-staerker-kooperieren-aec988eb13b4b91c99d981546537ad9c





Forderungen von Italien an OpenAI (vom April 2023)


https://www.reuters.com/technology/italy-lift-curbs-chatgpt-if-openai-meets-demands-by-end-april-data-protection-2023-04-12/





Jailbreaking LLMs


https://www.jailbreakchat.com/





DeppGPT:


https://www.der-postillon.com/2023/05/deppgpt.html





Open LLMs: 


Falcon-40B / 7B


https://pub.towardsai.net/falcon-40b-a-fully-opensourced-foundation-llm-945dd9824157


https://twitter.com/cwolferesearch/status/1662504834916929536





MPT-7B


https://www.mosaicml.com/


https://huggingface.co/spaces/mosaicml/mpt-7b-storywriter


https://huggingface.co/mosaicml/mpt-7b


https://huggingface.co/spaces/mosaicml/mpt-7b-instruct











Nicht im Stream erwähnt (aber trotzdem spannend):





JAX Whisper:


https://huggingface.co/spaces/sanchit-gandhi/whisper-jax





Übersicht mit ChatGPT Plugins:


https://wgmimedia.com/all-chatgpt-plugins/








Newsletter & Tool-Datenbanken





https://supertools.therundown.ai/ https://www.therundown.ai/  - https://twitter.com/rowancheung





https://www.futuretools.io/ https://futuretools.beehiiv.com/  https://www.youtube.com/@mreflow 





https://www.futurepedia.io/





https://www.bensbites.co/ https://twitter.com/bentossell/





https://news.theaiexchange.com/ https://twitter.com/Rachel_L_Woods





https://theresanaiforthat.com/

Die dunkle Seite der KI: Risiken, Kritik und die Zukunft der Technologie




Willkommen zur neuesten Episode unseres Podcasts, in der wir uns intensiv mit dem Thema "Künstliche Intelligenz und das Risiko des Untergangs" beschäftigen. In dieser Folge diskutieren wir eine Reihe von Quellen und Perspektiven, die sowohl die potenziellen Risiken als auch die Kritik an diesen Warnungen beleuchten.





Wir beginnen mit einem Blick auf die Erklärung von www.safe.ai zum Risiko der KI und berichten über Warnungen von Branchenführern, die in der New York Times und anderen Medien aufgegriffen und disktutiert wurden. Eine Studie der Universität Oxford liefert eine düstere Antwort auf die Frage, ob künstliche Intelligenz das Ende der Menschheit bedeuten könnte, während Kritiker diese Warnungen als übertrieben betrachten.





Wir werden auch die aktuellen Risiken diskutieren, die in dem Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" (2021) aufgeführt sind, einschließlich der Verstärkung von Vorurteilen und Stereotypen, der Generierung von beleidigender Sprache und der Ausnutzung durch böswillige Akteure.





Darüber hinaus werden wir den Energieverbrauch von KI und die Auswirkungen auf die Nachhaltigkeit betrachten, basierend auf einem Artikel von www.zdnet.com. Wir werden auch die Wahrscheinlichkeit des Untergangs durch KI (auch genannt p(Doom) / x-risk) diskutieren, die auf Foren oder Artikeln unter anderem im Time Magazine behandelt werden.





Schließlich werden wir die Ansichten verschiedener Experten wie Eliezer Yudkowsky, Yoshua Bengio, Max Tegmark und Geoffrey Hinton beleuchten, die ihre Gedanken und Bedenken zur KI und ihrem Potenzial für Risiken geäußert haben.





Wir hoffen, dass diese Episode Ihnen einen umfassenden Überblick über das aktuelle Gespräch rund um KI und Risiken bietet und freuen uns auf Ihre Gedanken und Fragen zu diesem wichtigen Thema. Bleiben Sie dran!





Link-Liste für Teil 1:




https://www.safe.ai/statement-on-ai-risk


https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html





https://www.swr.de/wissen/experten-warnen-vor-ausloeschung-der-menschheit-durch-ki-100.html





Oxford Studie: https://www.fr.de/wissen/ki-kuenstliche-intelligenz-ende-menschheit-oxford-studie-liefert-duestere-antwort-91821912.html








Kritik:


https://www.tagesspiegel.de/politik/umweltfolgen-durch-kunstliche-intelligenz-gravierend-forscherin-aus-oxford-kritisiert-ausloschungs-warnung-9911783.html


https://theconversation.com/if-were-going-to-label-ai-an-extinction-risk-we-need-to-clarify-how-it-could-happen-206738








Aktuelle Risiken:


On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (2021)


https://dl.acm.org/doi/pdf/10.1145/3442188.3445922





Energy-Consumption: https://www.zdnet.com/home-and-office/sustainability/this-new-aws-tool-shows-customers-the-carbon-footprint-of-their-cloud-computing-usage/





p(Doom) / x-risk: https://forum.effectivealtruism.org/posts/THogLaytmj3n8oGbD/p-doom-or-agi-is-high-why-the-default-outcome-of-agi-is-doom





https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/


Eliezer Yudkowsky https://twitter.com/ESYudkowsky





Yoshua Bengio https://www.bbc.co.uk/news/technology-65760449


Max Tegmark:


https://www.channel4.com/news/ai-extinction-threat-is-going-mainstream-says-max-tegmark


https://time.com/6273743/thinking-that-could-doom-us-with-ai/


Geoffrey Hinton: https://www.nytimes.com/2023/05/30/podcasts/the-daily/chatgpt-hinton-ai.html





Weitere Stimmen:


https://twitter.com/abacaj/status/1664237098633658368


https://twitter.com/ylecun


https://twitter.com/tdietterich/status/1663602549130432512


https://twitter.com/GaryMarcus/status/1664124885009068032?s=20


https://twitter.com/chrmanning/status/1663920862439915524








Experts survey: https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/








Folgt uns auf:





Twitter: https://twitter.com/KIundMensch


Twitch: https://www.twitch.tv/kiundmensch


Youtube: https://www.youtube.com/@kiundmensch