Afgehandeld AI discussies bundelen?

[one_b]

ze zijn nog lang niet intelligent genoeg om er voor te zorgen dat niet zij maar wij in een frikandel verdwijnen.
ik zie je varkens punt niet echt.
het gaat er hier om dat de complexiteit van de machine mensen op het verkeerde been zet en bovennatuurlijke krachten toebedeelt. vooralsnog, ;-) .

dammit dit was de laatste.

 

[Nap]

Het doet me een beetje denken aan hoe de hardware puristen hier tot een aantal jaar terug bij hoog en laag beweerden dat een VST nooit 'analoog' zou kunnen klinken. Totdat het wel kon. We staan pas ergens aan het begin van een curve en wat nu nog niet kan of misschien zelfs onvoorstelbaar is, is over 5 of 10 jaar misschien wel gemeengoed. De stap om een fruitvliegjesbrein compleet te mappen was een onvoorstelbare monsterklus, net als het mappen van het menselijk genoom. Maar zodra zoiets eenmaal een keer gedaan is, is de volgende stap makkelijker. En die daarna weer. De gedachte dat er uiteindelijke een gesimuleerd brein kan worden gebouwd waar 'emergent' zaken uit ontstaan is lang niet zo'n vergezochte gedachte als het lijkt, al zijn we daar natuurlijk nog lang niet. Ik volg het in elk geval met veel belangstelling.

 

[ano260823]

Ja dat had ik in leken taal al uitgelegd.
Dat neemt niet weg dat er altijd het potentieel blijft. Wellicht maken varkens een evolutionaire stap en leren ze een vliegtuig te bouwen.
Ondanks dat varkens uiterst intelligent zijn maken ze nog niet gebruik van tools.
Koeien tonen daarin meer potentie. Hoewel er maar 1 koe in de wereld is die dat doet.

https://www.science.org/content/article/pigs-caught-video-using-tools-first-time

 

[krautrock1958]

Op zich een logische maar ook wel gevaarlijke ontwikkeling omtrent het samengaan van AI of computers en biologie of simulaties daarvan.
Paar maanden terug postte ik er al iets over dat men bezig was hersencellen en AI te koppelen en het lijkt er op dat de tijd van een soort Frankenstein of cyborgs wel degelijk dichterbij komt.
Natuurlijk als je aan de ene kant het superieure van de biologie wat wij (nog) niet kunnen maken en aan de andere kant daar AI of rekenkracht aan koppelt dan kan je daar zomaar een soort superieure robot in zien.
Om maar @Nap aan te halen; het zou idd een soort "monsterklus" kunnen worden als we niet oppassen.

Het klinkt een beetje als sf maar in werkelijkheid heb je kans dat ze in verschillende delen van de wereld daar op militair gebied al mee bezig zijn, niet alleen voor de vorming van een superieur en onuitputtelijk leger voor als er oorlog is met een ander land maar ook om je eigen bevolking onder de duim te houden.
En dan kan men proberen ethische afspraken te maken via de VN maar dit kan bijzonder riskant worden want geen land die zich er aan gaat houden, dat weet je al van te voren.
En zolang we een technologie ontwikkelen op een ontzettend hoog niveau maar we nog steeds door ons reptielenbrein beïnvloed worden zie ik het somber in voor de mensheid of we moeten zelf een nieuwe stap in de evolutie maken als zijnde een ethische stap maar daar zie ik nog geen tekens van...

 

[Sjaak]

Het doet me een beetje denken aan hoe de hardware puristen hier tot een aantal jaar terug bij hoog en laag beweerden dat een VST nooit 'analoog' zou kunnen klinken. Totdat het wel kon. We staan pas ergens aan het begin van een curve en wat nu nog niet kan of misschien zelfs onvoorstelbaar is, is over 5 of 10 jaar misschien wel gemeengoed. De stap om een fruitvliegjesbrein compleet te mappen was een onvoorstelbare monsterklus, net als het mappen van het menselijk genoom. Maar zodra zoiets eenmaal een keer gedaan is, is de volgende stap makkelijker. En die daarna weer. De gedachte dat er uiteindelijke een gesimuleerd brein kan worden gebouwd waar 'emergent' zaken uit ontstaan is lang niet zo'n vergezochte gedachte als het lijkt, al zijn we daar natuurlijk nog lang niet. Ik volg het in elk geval met veel belangstelling.

Zo is dat. Draai de klok eens 250 jaar terug, de tijd van de industriële revolutie. En kijk wat er nu kan. Draai de klok eens 40 jaar terug, de 80s. De tijd van Chriet Titulaar, wie kent hem nog En hoe snel de ontwikkelingen sindsdien zijn gaan. Er kan al veel, en er komt nog veel meer aan. Zeg nooit nooit. Ik denk dat we nog een wondere wereld tegemoet gaan.

 

[demian]

Er kan veel, zo veel totdat alles ontploft en dan kan er weinig meer.

 

[Sjaak]

Er kan veel, zo veel totdat alles ontploft en dan kan er weinig meer.

Dat klopt, maar dat is nooit anders geweest. Dat was in tijd van de dino's ook al zo. Boem...alle dino's weg. En dan begint alles weer AI-vrij van vooraf aan

 

[demian]

Wat mij betreft is AI niet alleen maar Halleluja en Hosanna in den hoge, wat mij betreft is het precies het omgekeerde.

Iets helpt ons met alles terwijl dat helemaal niet hoeft.

Existential risk from artificial intelligence - Wikipedia

en.wikipedia.org

 

[krautrock1958]

Dat was in tijd van de dino's ook al zo. Boem...alle dino's weg. En dan begint alles weer AI-vrij van vooraf aan

Ja, dan ben niet alleen jij maar wij allemaal de Sjaak.

 

[demian]

Het is wachten tot computersystemen en netwerken gehacked gaan worden door AI, misschien gebeurt dat al, denk 't wel eigenlijk.

AI kan beslissingen nemen op basis van input, dat betekent mogelijk ook, scripts kunnen starten, misschien ook scripts op andere systemen. Daar is toegang voor nodig, AI heeft dus mogelijk toegang tot andere systemen en weet dus hoe het in moet inloggen of op en andere manier scripts te starten op andere systemen. AI wordt ook gebruikt voor spionage, AI is dus in staat om systemen binnen te dringen, login gegevens te vinden, die te gebruiken opdrachten uit te voeren. In principe hoeft AI hier niet mee te stoppen en kan het oneindig verder gaan met het zichzelf toegang verschaffen tot andere systemen. AI kan mogelijk ook servers beheren, configureren zoals het zelf wil, op basis van input en andere variabelen. Wanneer het zichzelf administrator rechten weet te verschaffen op andere systemen kan het alles wat het wil. Ik snap het, het is doomdenken, maar alles wat een mens online kan, kan AI gewoon ook. En dat oneindig snel en vaak. We gaan er zeker last mee krijgen, misschien niet vandaag of morgen , maar het gaat zeker gebeuren.

 

[ano260823]

Was er niet al een probleem met een moltbot die toegang tot een systeem van een ander wou en gewoon aan de moltbot op dat systeem om het wachtwoord vroeg en kreeg? Kan het nu niet meer vinden 1-2-3 maar wel komisch

 

[Disharmonic]

Er kan veel, zo veel totdat alles ontploft en dan kan er weinig meer.

Vrees voor het ergste, wanneer we nieuwe technologie zien, is natuurlijk niet nieuw. Toen de atoombom was uitgevonden was de vrees ook al vrij snel dat de boel (letterlijk) zou ontploffen en er niks meer kon. Of dat er niks meer was. We zijn weliswaar enkele keren vrij dicht langs de afgrond gegaan, maar belangrijk is om je te realiseren dat we er toch nog steeds zijn. De les is wellicht dat we niet te snel moeten doemdenken, nu ook niet met AI.

 

[ProgHead]

Wat ook vaak over het hoofd gezien wordt is dat "de mens" er helemaal geen consistent systeem van normen en waarden op na houdt. AI proberen te houden aan een dergelijke warboel van tegenstrijdige morele beginselen en aannamen moet wel leiden tot grote ongelukken, zelfs als AI onze morele uitgangspunten geheel zou volgen. Nog even daarvan afgezien dat nog geen twee mensen op moreel vlak hetzelfde denken. Dus wiens moraal zou AI eigenlijk moeten volgen? We hebben de technologische ontwikkelingen al lang niet meer in de hand.

 

[Nap]

Het is wachten tot computersystemen en netwerken gehacked gaan worden door AI, misschien gebeurt dat al, denk 't wel eigenlijk.

AI kan beslissingen nemen op basis van input, dat betekent mogelijk ook, scripts kunnen starten, misschien ook scripts op andere systemen. Daar is toegang voor nodig, AI heeft dus mogelijk toegang tot andere systemen en weet dus hoe het in moet inloggen of op en andere manier scripts te starten op andere systemen. AI wordt ook gebruikt voor spionage, AI is dus in staat om systemen binnen te dringen, login gegevens te vinden, die te gebruiken opdrachten uit te voeren. In principe hoeft AI hier niet mee te stoppen en kan het oneindig verder gaan met het zichzelf toegang verschaffen tot andere systemen. AI kan mogelijk ook servers beheren, configureren zoals het zelf wil, op basis van input en andere variabelen. Wanneer het zichzelf administrator rechten weet te verschaffen op andere systemen kan het alles wat het wil. Ik snap het, het is doomdenken, maar alles wat een mens online kan, kan AI gewoon ook. En dat oneindig snel en vaak. We gaan er zeker last mee krijgen, misschien niet vandaag of morgen , maar het gaat zeker gebeuren.

Dat speelt ook al ja

Een omslag voor cybersecurity: Claude Mythos is té goed in lekken vinden

Claude Mythos is zo goed in het vinden van softwarelekken dat Anthropic het model niet uitbrengt. Dat kan grote gevolgen hebben voor cybersecurity.

tweakers.net

 

[ProgHead]

Citaat:

Er is wel licht aan het einde van de tunnel, vindt Anthropic. "Op de lange termijn verwachten we dat defensiemogelijkheden de boventoon zullen voeren: dat de wereld veiliger zal worden, met beter beveiligde software – grotendeels dankzij code geschreven volgens deze modellen. Maar de overgangsperiode zal vol obstakels zitten."

Waarom? Vernielen en schade aanrichten is meestal makkelijker dan iets verdedigen of opbouwen.

 

[ano260823]

Klassieker, welke uitvinder van wapens dacht niet dat met haar of zijn uitvinding de wereld veiliger zou worden? Net als die van de mitrailleur, die dacht ook dat 'ie daarmee vrede zou bereiken.

 

[jserle]

Het is wachten tot computersystemen en netwerken gehacked gaan worden door AI, misschien gebeurt dat al, denk 't wel eigenlijk.

Ik ben totaal niet bang voor AI en zijn gehack. Wat ik met deze computer heb ingetypt is (ook dit) is volkomen oninteressant.
En als ik echt iets wil maken wat pas openbaar mag worden als het klaar is. Dan gebruik ik computers die nooit op het internet komen.
De gedachten politie is nog niet uitgevonden. Alles wat op mijn computers staat is van buitenaf gezien al openbaar. Daar houd ik rekening mee.

 

[ano260823]

Ik ben totaal niet bang voor AI en zijn gehack. Wat ik met deze computer heb ingetypt is (ook dit) is volkomen oninteressant.
En als ik echt iets wil maken wat pas openbaar mag worden als het klaar is. Dan gebruik ik computers die nooit op het internet komen.
De gedachten politie is nog niet uitgevonden. Alles wat op mijn computers staat is van buitenaf gezien al openbaar. Daar houd ik rekening mee.

Hackers zijn ook helemaal niet geinteresseerd in iets wat jij maakt. Wel je bankrekening en persoonlijke informatie voor identiteitsfraude.

 

[flyweight]

Das best leuk want veel kunnen ze daar niet tegen doen.
Ik gebruik mijn llm om mijn eigen infrastructuur te testen op lekken of breek ik erin?

 

[Sjaak]

Ja, dan ben niet alleen jij maar wij allemaal de Sjaak.

Dat ben ik sowieso 24x7