krautrock1958
Gepokt en gemazeld
Ja mee eens, het zou fijn zijn als je gewoon in winkels of supermarkten zou komen waar geen muziek speelt
De grote Synthforum LLM-doet-muziekdraad
- Thread starter krautrock1958
- Start date
Meer onderzoek over het naar de mond praten gedrag van chatbits en de gevolgen
www.theguardian.com
‘Sycophantic’ AI chatbots tell users what they want to hear, study shows
Scientists warn of ‘insidious risks’ of increasingly popular technology that affirms even harmful behaviour
www.theguardian.com
Nicolas 2000
It's a household name
Ik blijf het vreemd vinden dat mensen chatbots voor dat soort zaken gebruiken.
Ik niet. Als je niemand hebt waarmee je kunt of durft te praten (of je hebt het gevoel dat er niemand luistert) is het niet zo gek dat mensen zo'n chatbot proberen, zeker omdat de antwoorden vaak zinnig klinken en je wordt aangemoedigd om door te blijven praten. Zegt zo'n ding ook nog eens wat je wil horen en lijkt het alsof 'ie je écht begrijpt, en binnen de kortste keren ben je hooked.
fjoesz
Gepokt en gemazeld
- Lid sinds
- 21 januari 2005
- Berichten
- 8.807
dat niet alleen, ergens geeft je eigen systeem je het idee dat je met een menselijk wezen aan het converseren bent. mensen bedanken chatgpt toch ook als ze klaar zijn, dat zegt genoeg lijkt me. ai gaat alleen nog maar beter worden in de nuances en uitzoomend filosofisch gezien zou je best kunnen stellen dat je op een gegeven moment ook echt een relatie hebt met het ding. en als het je naar de mond gaat praten dan is de behoefte aan die relatie kennelijk wederzijds ghehe
krautrock1958
Gepokt en gemazeld
Ja wat dat betreft had de film Her een voorspellende waarde, leuke film trouwens.
En het duurt niet lang meer of je krijgt er beelden zodat je dan ook nog de persoon ziet die tegen je terugpraat, dan wordt het voor mensen nog aannemelijker.
Wel gevaarlijk ook deze ontwikkelingen vind ik, mensen kunnen op die manier heel makkelijk voor de gek gehouden worden, zeker in landen waar alle media door een regering wordt beheerst.
Nog even en we krijgen Newspeak zoals Orwell had voorspeld.
En het duurt niet lang meer of je krijgt er beelden zodat je dan ook nog de persoon ziet die tegen je terugpraat, dan wordt het voor mensen nog aannemelijker.
Wel gevaarlijk ook deze ontwikkelingen vind ik, mensen kunnen op die manier heel makkelijk voor de gek gehouden worden, zeker in landen waar alle media door een regering wordt beheerst.
Nog even en we krijgen Newspeak zoals Orwell had voorspeld.
Laatst gewijzigd:
krautrock1958
Gepokt en gemazeld
Ja precies, dat ga je krijgen.
Maar ik zat ook te denken zoals chatGTP nu antwoord terug geeft kan je ook beeld erbij bedenken zodat je een persoon ziet die realtime met je in gesprek gaat, dat gaat wel komen maar dan wordt het voor mensen nog lastiger omdat velen al moeite hebben met chatGTP niet als mens te zien, laat staan als er ook nog een persoon op je beeldscherm je al die dingen vertelt.
metatron
Sw, Sdshn, Ptch & Rvrb
Best bizar allemaal, en soms zou ik wel terug de tijd in willen gaan. Aan de andere kant ben ik ook blij met andere dingen (buiten AI) zoals muziek volledig ITB te kunnen maken van goede kwaliteit.
(even wat positiefs er in gooien) Maar we kunnen dan ook met iemand (AI) samen muziek maken alsof we dit met een medemuzikant doen. Eentje dit over je schouder meekijkt en jou wat input geeft zoals dat ook in het echt gebeurt. Je tovert deze mede muzikant in een mooi ogende vrouw (we houden nou eenmaal van mooie dingen) die ook nog eens mooi kan zingen. Op die manier kan je lekker samen sparren (net als in het echt
) maar dan toch net niet helemaal.
(even wat positiefs er in gooien) Maar we kunnen dan ook met iemand (AI) samen muziek maken alsof we dit met een medemuzikant doen. Eentje dit over je schouder meekijkt en jou wat input geeft zoals dat ook in het echt gebeurt. Je tovert deze mede muzikant in een mooi ogende vrouw (we houden nou eenmaal van mooie dingen) die ook nog eens mooi kan zingen. Op die manier kan je lekker samen sparren (net als in het echt
) maar dan toch net niet helemaal.Yep, is er ook al
10 Best AI Companion Apps in 2026 (Tested & Reviewed)
Recommend 10 best AI companion apps and learn how to create your own AI companion character.
krautrock1958
Gepokt en gemazeld
Da's best een goed idee eigenlijk, iemand die samen een track met je maakt.(even wat positiefs er in gooien) Maar we kunnen dan ook met iemand (AI) samen muziek maken alsof we dit met een medemuzikant doen. Eentje dit over je schouder meekijkt en jou wat input geeft zoals dat ook in het echt gebeurt. Je tovert deze mede muzikant in een mooi ogende vrouw (we houden nou eenmaal van mooie dingen) die ook nog eens mooi kan zingen. Op die manier kan je lekker samen sparren (net als in het echt
Als dat er zou zijn dan zou ik daar interesse in hebben want ik zou het leuk vinden om soms met iemand samen muziek te maken, lekker wat ideetjes heen en weer bouncen.
Ik denk dat dit een gat in de markt zou zijn dat iemand online met een AI persoon samen iets kan doen, muziek of iets anders delen, welke hobby dan ook.
Ja, da's met tekst maar ik bedoel dus een realistisch persoon die gewoon tegen je praat en niet dmv tekst invoeren.
Je zit bijv voor de laptop en de AI praat echt terug als een gewoon mens, net als dat je online zit te praten met iemand.
Dat is er nog niet denk ik maar dat zal niet lang meer duren.
yep, is er al
Tavus: The Human Computing Company
Personified Application Layers that see, hear, and respond face-to-face in real time. Build and deploy with our API, no-code PAL Maker, or enterprise Solutions. Interactive AI avatars and conversational video reimagined
www.tavus.io
Deze is eng trouwens. Had het op mijn telefoon geprobeerd met mijn duim voor de cam, zegt 'ie dat 'ie me niet kan zien omdat het lijkt alsof er een vinger voor de camera zit. Meteen opgehangen
Nicolas 2000
It's a household name
Ik ben ook beleefd tegen ai, maar dat is a) omdat het voor mij aangenamer is dan afblaffen, en b) omdat onderzoek lijkt aan te tonen dat je betere resultaten krijgt bij enige basisbeleefdheid omdat het model getraind is op menselijke bronnen die ook enige beleefdheid hadden (bv quora of stackexchange draadjes). Dus niet om niet op zijn teentjes te trappen. In de google zoekbalk doe ik het nooit.
Wat ik bedoelde met dat ik het "vreemd" vind dat mensen gpt als psychiater of hartsvriend gebruiken: ik begrijp wel dat het gebeurt en waarom, en waarom het succes heeft. Maar vanuit mijn eigen perspectief waarin ik enig inzicht in de werking van llm's heb, vind ik het vreemd zoals het vreemd is dat iemand een wortel als een hamer zou gebruiken. Het is een tool die daar niet voor gemaakt is. Maar niet vreemd dat iemand die een hamer nodig heeft en enkel wortels heeft (of denkt te hebben), die dan maar gebruikt. En blijft gebruiken als de wortel lijkt te werken. Tot hij hopelijk ooit door heeft dat de nagel in de wortel ging, niet in de plank...
Wat ik bedoelde met dat ik het "vreemd" vind dat mensen gpt als psychiater of hartsvriend gebruiken: ik begrijp wel dat het gebeurt en waarom, en waarom het succes heeft. Maar vanuit mijn eigen perspectief waarin ik enig inzicht in de werking van llm's heb, vind ik het vreemd zoals het vreemd is dat iemand een wortel als een hamer zou gebruiken. Het is een tool die daar niet voor gemaakt is. Maar niet vreemd dat iemand die een hamer nodig heeft en enkel wortels heeft (of denkt te hebben), die dan maar gebruikt. En blijft gebruiken als de wortel lijkt te werken. Tot hij hopelijk ooit door heeft dat de nagel in de wortel ging, niet in de plank...
Ach ja, sommige mensen praten met bomen of onzichtbare opperwezens.
Die AIs zeggen tenminste nog wat terug. Ik merk ook gewoon dagelijks hoe mensen niet snappen hoe die chatbots werken. Ze zijn niet half kritisch genoeg op de antwoorden die ze krijgen, hoe vaak ik ook tegen ze zeg dat een chatbot niks 'snapt' maar alleen maar aannemelijke teksten papegaait die vaak vrij goed kloppen. Ze zien het vaak pas als ze in een echte deadlock komen, bijvoorbeeld omdat ze ChatGPT wijzen op een fout, ChatGPT dit toegeeft en vervolgens daarna dezelfde fout blijft maken.
Die AIs zeggen tenminste nog wat terug. Ik merk ook gewoon dagelijks hoe mensen niet snappen hoe die chatbots werken. Ze zijn niet half kritisch genoeg op de antwoorden die ze krijgen, hoe vaak ik ook tegen ze zeg dat een chatbot niks 'snapt' maar alleen maar aannemelijke teksten papegaait die vaak vrij goed kloppen. Ze zien het vaak pas als ze in een echte deadlock komen, bijvoorbeeld omdat ze ChatGPT wijzen op een fout, ChatGPT dit toegeeft en vervolgens daarna dezelfde fout blijft maken.
Laatst gewijzigd:
Nicolas 2000
It's a household name
En daarom is ver weg gaan van objectieve taken nog veel riskanter voor een llm dan klaar als een klontje objectieve taken.
En het feit dat ze het vaak juist of plausibel hebben, maakt het aanlokkelijk om minder kritisch te worden. Maar eigenlijk moet je ze behandelen als die "altijd zelfzeker, soms zelfs terecht" betweter kennis.
En het feit dat ze het vaak juist of plausibel hebben, maakt het aanlokkelijk om minder kritisch te worden. Maar eigenlijk moet je ze behandelen als die "altijd zelfzeker, soms zelfs terecht" betweter kennis.
krautrock1958
Gepokt en gemazeld
Ah, die had ik nog niet gezien maar dat komt wel heel dichtbij ja.
Deze is eng trouwens. Had het op mijn telefoon geprobeerd met mijn duim voor de cam, zegt 'ie dat 'ie me niet kan zien omdat het lijkt alsof er een vinger voor de camera zit. Meteen opgehangen
Haha, ja ze zijn nu zover dat ook het visuele aspect door AI geïnterpreteerd kan worden, Big Brother is watching you.
Ja niet zo gek, mensen zitten met een probleem en willen er over praten en een psychiater is kostbaar natuurlijk maar als je al weet hoeveel mensen zo makkelijk een tunnel ingaan op social media dat is dit wel link natuurlijk.
Dat zag ik een tijdje terug op youtube dat chatGTP allerlei wijsheid wordt toebedeeld als een soort alleswetend orakel, nog effe en chatGTP vertelt iemand dat ie voor de trein moet springen of de uitverkorene is in een Goddelijk plan of zo?
Da's echt gevaarlijk en als je dan bedenkt hoe kort deze techniek er nu is dan moet je 'ns kijken waar we over 10 jaar zijn?
Het gaat nu heel snel, ik post even een clip en in het onderschrift vindt je de beschrijving wat ze momenteel aan een Deense Universiteit en de Universiteit van Chicago ontwikkelen, het samengaan van quantumcomputing en biologische cellen bijv, de belangrijkste dingen in het kort;
The Three Converging Revolutions: 1. Quantum Learning Advantage - Solving million-year problems in minutes 2. Quantum Stability Breakthrough - Hour-long qubits vs. microsecond lifespans 3. Biological Quantum Integration - Technology merging directly with living cells
Yep, is er al.
The Emerging Problem of "AI Psychosis"
AI may be fueling psychotic delusions in a phenomenon known as "AI psychosis" or "ChatGPT psychosis." New research explains the risks.
www.psychologytoday.com
Ik neem dit dan weer met een flinke korrel zout, er worden wel hele grote conclusies getrokken uit wat early stage onderzoeken met vaak discutabele uitkomsten. Ik heb de dame even gecheckt met ChatGPT
Laatst gewijzigd:
krautrock1958
Gepokt en gemazeld
Ik neem dit dan weer met een flinke korrel zout, er worden wel hele grote conclusies getrokken uit wat early stage onderzoeken met vaak discutabele uitkomsten. Ik heb de dame even gecheckt met ChatGPT
Maar ik had even gecheckt op internet over waar de Deense Universiteit mee bezig is en die van Chicago voordat ik een clipje ga posten want allerlei youtubers verspreiden onzin natuurlijk dus ik wilde even weten hoe de stand was.
Over eventuele samenwerking kon ik niet zoveel vinden maar wel dat ze beiden bezig zijn aan datgene wat in de clip genoemd werd, het Niels Bohr Instiitute werkt al jaren aan een programma om de levensduur van een qubit te verlengen en maken daarin significante stappen en hieronder het verhaal over Chicago;
Scientists program cells to create biological qubit in multidisciplinary breakthrough
Researchers have designed protein qubits that can be produced by cells naturally, opening possibilities for precision measurements of tissues, single cells, or even individual molecules.
Nicolas 2000
It's a household name
Google ongevraagde AI doin' its thang:
jserle
JS Jacques Serle
Ah, die had ik nog niet gezien maar dat komt wel heel dichtbij ja.
Het zal zo`n vaart niet lopen. We deden een plas . . . enz.
Gisteravond nog even een boek geschreven over dit soort dingen. Da`s makkelijk. Het laden kan een paar seconden duren vanwege de grootte. Verder is er zoveel aanbot dat er bijna niet door te komen is.
Vergelijkbare discussies
