AI en ABC techniek

[maartenvdb]

Gisteren voor het eerst maar eens op de AI knop bij Google gedrukt.  Om eens te proberen of ik er iets wijzer van zou kunnen worden.

Nou, dat viel zwaar tegen.  Ik moet wel toegeven, dat ik vragen stelde over het Lenz ABC systeem, daarmee niet bedoelende de diode-methode, maar met het gebruik van de BM2 en BM3 modules.
Bijna iedere keer moest ik het antwoord corrigeren, wat dan door "?"  (het systeem) toegegeven werd, maar met een nieuw antwoord dat op een andere manier weer even fout of onvolledig was.

Pas na vele correcties begon "?" het te begrijpen en kwam er een correct antwoord uit, met, jawel, vragen vanuit "?" zelf.  Met tussendoor ook nog een soort excuus dat ze zich beriepen op wat door Lenz bekendgemaakt is.  Dat maakt 2 dingen duidelijk:  Lenz heeft nooit de moeite genomen of bekend gemaakt wat er in de praktijk méér mee gedaan kan worden dan in de handleidingen.  En ten tweede:  er is dus blijkbaar geen of nauwelijks andere kennis beschikbaar, dus door anderen in praktijk gebracht en over geschreven.

Ik hoop een bijdrage geleverd te hebben aan "?" om potentiële gebruikers, die op onderzoek uitgaan naar informatie, meer achtergrond van de mogelijkheden te bieden dan tot nu toe zelfs binnen "?"  bekend was. 
Toegegeven, dus "?"  een beetje in bescherming nemen:  op mijn eigen zoektochten binnen het ouderwetse WWW ben ik ook nooit iets tegengekomen behalve herhalingen van het officiële bekendgemaakte.

Misschien vanaf nu dus wel ? 

[Joz]

Ik vraag me af of jouw inspanning op die manier het algemeen nut hebben verrijkt.
Volgens mij geldt dat alleen voor jouw eigen interacties met die AI-agent.

Het zou wat zijn als iedereen op die manier de output van AI zo simpel door het doen van enkele statements, kan beïnvloeden 

Groeten,
Jos

[maartenvdb]

Ik heb geen idee.

Maar aangezien ik meerdere keren lees, dat AI op een zogeheten intelligente manier eigenlijk alleen maar het hele internet afstruint en daar een soort samenvatting van maakt, dan is het dus in het algemeen wel geldend dat méér of nieuwe informatie  AI beïnvloed in de antwoorden die gegeven worden.

Ik zie dat vooralsnog hetzelfde als het begin van Wikipedia:  iedere halve zool kon daar de grootste onzin beweren.   Nu zal dat niet direct gebeuren, maar als je maar genoeg "niet waarheid" plaatst wordt dat in het resultaat meegenomen totdat het de waarheid overstemt.

En algemeen nut ?  Algemeen misschien wel, maar nut ?  Alleen voor de geïnteresseerde, misschien, en dat zijn er tot nu toe blijkbaar niet zo veel.

Dat is ook (voor mij)  het hele punt, een soort kip en ei.    Als de producent (Lenz) niets meer doet aan ontwikkeling en/of informatie voorziening, dan gebeurt er niks meer met ABC.  Daar staat tegenover de vraag, of wèl voldoen aan minstens informatie er voor zou kunnen zorgen dat ABC bekender wordt en daardoor meer gebruikt wordt. (Maar of dat voor Lenz commercieel interessant is ?)

Oftewel: investeren met de vraag of het iets oplevert,   of niks doen en het dan ook niks laten worden.

Dat laatste is aan mij niet gegeven, vandaar mijn inspanningen om het op een hoger vlak te tillen.

[JoopSpoort]

Het raadplegen van fora, boeken of serieuze tijdschriften is altijd beter dan AI. Bij AI is de bron niet te herleiden, bij boeken wel en op fora meestal ook.

[Sven]

Bij AI antwoorden op Google zie ik er wel een link bij staan waar het op gebaseerd is.

[Peter J K]

Ik lees toevallig net een artikel in de NYT over een onderzoek naar de betrouwbaarheid van Google AI samenvattingen: ongeveer 10 procent is incorrect. Dit hangt onder andere samen met het aantal Facebook-posts dat als bron gebruikt worden. Ook komt regelmatig voor, dat wel een goede bron gebruikt wordt, maar dat er verkeerde conclusies aan verbonden worden.

Er wordt ook een leuk voorbeeld gegeven van de manipuleerbaarheid van de uitkomsten. De auteur publiceerde een verzonnen verhaal op zijn blog over hoe hij ergens een wedstrijd hot-dog eten voor tech-journalisten had gewonnen. Toen hij over dat onderwerp de volgende dag Google raadpleegde, werden zijn prestaties op dat vlak geprezen. 

[maartenvdb]

Bij AI antwoorden op Google zie ik er wel een link bij staan waar het op gebaseerd is.

Dat klopt bij mij in ieder geval.  De enige bron die herhaaldelijk vermeld werd was Lenz.  Met daarna een excuus dat ze nier meer bronnen hadden, dus dat ze zich uitsluitend op de informatie van Lenz konden richten.

Lenz heeft wel meer informatie, die heb ik ze zelf gegeven, maar daar doen ze om redenen niets mee. Die redenen kun je zien als zuiver bedrijfsmatig:
- het interesseert ons niet
- het ontbreekt ons aan ontwikkelcapaciteit
- op voorhand wordt geen commerciële haalbaarheid verwacht

Dat laatste is dus weer kip of ei:  je kunt dat pas ervaren als je bereid bent geweest om dat te onderzoeken. Doe je niks, wordt het niks, doe je het wel, wordt het misschien wat.

[maartenvdb]

Ik heb bij vraag en aanbod inmiddels een vraag gesteld of er belangstellenden zijn om het ABC gebeuren verder te ontwikkelen.

[Dirk]

Ik lees toevallig net een artikel in de NYT over een onderzoek naar de betrouwbaarheid van Google AI samenvattingen: ongeveer 10 procent is incorrect.

90% juist dus en vlug, niet slecht volgens mij.

[Ferdinand Bogman]

Maar aangezien ik meerdere keren lees, dat AI op een zogeheten intelligente manier eigenlijk alleen maar het hele internet afstruint en daar een soort samenvatting van maakt, dan is het dus in het algemeen wel geldend dat méér of nieuwe informatie AI beïnvloed in de antwoorden die gegeven worden.

Dan zul je nieuwe informatie op het internet moeten zetten. Zoals Jos al suggereert: AI zelf onthoudt de informatie die jij het geeft tijdens het gesprek niet, of die van andere gebruikers van die AI.

Bijna iedere keer moest ik het antwoord corrigeren,

Dat is een bekend verschijnsel bij het gebruik van AI. AI is geen modelspoorder, dus snapt niet direct de context van je vraag. Het is alleen een taalmodel, dat je vraag interpreteert zonder inhoudelijke kennis van het onderwerp. En, heel menselijk - die interpretatie kan alle kanten op gaan - net als hier op het forum .

Je moet dus met AI leren omgaan - net als met forumleden .

[maartenvdb]

Dus AI is wel in staat, gezien de opbouw in antwoorden, te leren uit de gestelde vragen en aangeboden correcties, maar wist uiteindelijk alles uit zijn geheugen ?

Wel zeer kort van memorie dan.  Nog te stom om voor de duvel te dansen.

Wat dom van me om daar in te trappen.  We kennen allemaal ene Trump die 5 minuten na een uitspraak ook al niet meer weet wat ie gezegd heeft.  Die verklaren we hier voor geschift.

Wat dom van me om me in te laten met AI dat ik, na de begane zonde, blijkbaar als volkomen geschift moet beschouwen. Wat dom van me dat ik het gaande het contact er steeds méér vertrouwen in kreeg.  Dat was dan meteen de laatste keer, ik blijf me nog even in mijn eigen hoekje staan schamen. 

[Peter J K]

[…]AI zelf onthoudt de informatie die jij het geeft tijdens het gesprek niet, of die van andere gebruikers van die AI.

Eh, niet (helemaal) waar. Zie hier bijv. voor de uitleg van de geheugenfunctie van ChatGPT. Ik heb niet gekeken, hoe Gemini (van Google) ermee omgaat.

[Ferdinand Bogman]

Inderdaad Peter, als je met een account werkt zullen alle onder dat account gehouden gesprekken onthouden worden (of je kunt ze zelf bewaren), waardoor AI “went” aan de manier waarop je met AI praat en ook weet dat modelspoor je hobby en dat je drierail rijdt, om maar wat te noemen. Daar wordt bij volgende gesprekken rekening mee gehouden.

Maar zo’n geheugenfunctie bedoel ik niet - en Maarten ook niet, volgens mij. Als ik het goed begrijp dacht Maarten dat AI elke gebruiker van meer en betere informatie kan voorzien, op basis van de gesprekken met alle gebruikers. Zo werkt het volgens mij niet.

Is Maarten een AI-bot? Maarten, je geeft precies aan wat ik bedoel met het leren omgaan met AI/forumleden: ik heb geen idee wat je bedoelt met je laatste, nederige bijdrage. Ben je aan het hallucineren?  

[maartenvdb]

Nee hoor, ik ben bij volle verstand.  Maar misschien heb ik dat een beetje weinig.
Ik heb het idee dat ik wel aan het hallucineren was toen ik in contact stond met die AI. Want ik dacht werkelijk AI steeds meer serieus te kunnen nemen.

Dat is voorbij.  Ik heb nog nooit zo iets stoms gezien.  Een kind kan je makkelijk nog iets zeggen en daarmee leren.  AI leutert alleen maar met je mee en leert er zelf helemaal niets van, onthoudt het niet eens wat het zelf gegenereerd heeft.

Je kunt dus ook zeggen:  ik ben totaal niet geschikt voor AI. Te weinig hersenen.  Ik heb er na dit geen enkel vertrouwen meer in, ik geloof er geen barst meer van.  Overigens denk ik dat de wereld en informatie om me heen al lang en voor een groot gedeelte door AI wordt beïnvloed, zo niet bepaald.   Laat mij dan voor de laatste 10 % (?) het simpelweg verrekken om mee te doen.  Wat een troep.

Iets met een dorpje in Gallië ? 

[Joz]

https://www.youtube.com/watch?v=3400S4qMH6o