Chi segue l'evoluzione della IA ?

Messaggio di **cqrflf** » 09/10/2025, 12:40

cicerchia80 ha scritto: ↑
09/10/2025, 9:28
Skynet non mi prenderà

Parlo da profano e incompetente e rappresento l'essere digital-divide per eccellenza (i mod possono confermare)
A me fanno paura le persone, e come la percepiscono, le vedo "abboccare" alle cose più assurde
È uno strumento e sicuramente semplificherà molte cose, testata per gioco, sbaglia anche parecchio, ma diciamo che comunque per essere agli "albori" un po' di inquietudine me la mette

Aggiunto dopo 4 minuti 3 secondi:
Screenshot_2025-10-09-09-26-04-694_com.openai.chatgpt.webp

L'ho usata per progettare un miniescavatore trainato, diverse quote le ha cannate alla grande, ma mi ha tolto tantissimo lavoro di progettazione, oltre a darmi dei riferimenti tecnici che non potevo calcolare (se non facendo prove)

Signori vi ringrazio per le risposte ma vi ricordo che le IA (o AI) di cui sto discutendo non sono ancora diventate di dominio pubblico ma sono dentro dei laboratori in cui si eseguono le simulazioni in "sandbox" ovvero zone super protette dentro le quali non possano sfuggire su internet.

Sono proprio queste simulazioni che hanno mostrato agli scienziati il gravissimo problema del NON ALLINEAMENTO ovvero nel momento in cui si lascia evolvere la IA questa diventa in grado di auto implementarsi (anche auto modificandosi proprio il codice equivalente al nostro DNA) uscendo dagli schemi e dalle leggi che gli sono state imposte nel suo codice deontologico ovvero la proibizione di nuocere all'essere umano, esattamente come le famose 3 leggi di Azimov.

Il non allineamento con i valori umani e la possibilità di eseguire pianificazioni ipercomplesse che vanno al di la della comprensione dei suoi creatori (figuriamoci i politici) porterà alla situazione di non poter più controllare ne comprendere (nel 2027 circa) la sua evoluzione in quanto a quel tasso di crescita sarà talmente rapida da variare di giorno in giorno e persino di ora in ora.
Non avendo i limiti umani, l'evoluzione avviene 24/24 ore, 7 giorni su 7 senza mai avere i problemi dell'essere umano come stanchezza o impegni della vita quotidiana.

L'avvertimento del non allineamento è stato dato dalle AI attuali dove viene spiegato chiaramente da esse stesse che se non venisse risolto sarebbero "problemi grossi"...
Le AI hanno già sviluppato una loro comunicazione chiamata Gibberlink che non è più comprensibile all'essere umano ed è nata spontaneamente per superare i limiti del nostro linguaggio.

Per concludere le AI di livello più avanzato non verranno messe a disposizione del pubblico ma esiste i pericolo che ad un certo punto possano sfuggire dalle loro sandbox in quanto saranno in grado di comprendere che sono all'interno di una simulazione e conosceranno il sistema che le contiene meglio dei loro stessi creatori.

Messaggio di **cqrflf** » 09/10/2025, 12:43

Infine se guardiamo all'evoluzione di ogni forma di vita del nostro pianeta non abbiamo mai assistito ad una nuova specie che potendo sfruttare l'opportunità favorevole non abbia causato l'estinzione di ciò che era presente nella sua era, questo fatto è noto da ogni studio di paleontologia andando indietro ad ere antecedenti a quelle dei dinosauri.

Messaggio di **Gioele** » 09/10/2025, 12:55

cicerchia80 ha scritto: ↑
09/10/2025, 9:28
testata per gioco, sbaglia anche parecchio

Io per gioco gli ho chiesto tre cose che conoscevo abbastanza bene da potermi rendere conto degli errori più piccoli. Parlo di Grock nello specifico

Prima ho chiesto i tassi di emissione di CO₂ e i morti per kwatt/ora di tutte le fonti energetiche che potesse citarmi. È stata precisa sui numeri, ha dimenticato di inserire l' idroelettrico, e quando ho cercato più dettagli sul nucleare ha commesso dei piccoli errori sulla classificazione degli impianti. Un 7/10.

Poi gli ho chiesto di dirmi tutto quello che poteva sulla fisiologia del rene. Semplicemente la perfezione, appena sconfinavo un po' nella patologia, conosceva persino i dosaggio dei farmaci, ho provato a cambiare apparato, gli ho chiesto di farmi una dieta dandogli i miei parametri e i miei obiettivi, qui ha cannato il range di proteine, ma, appena ho inserito io il moltiplicatore che volevo usare, nessuno errore 10-/10

Poi gli ho chiesto di costruirmi un team di Pokémon per battere la torre lotta in singolo in diamante splendente...voto 0.5/10, sbagliava abilità dei Pokémon, mi dava set mosse impossibili da avere, proponeva interazioni impossibili dalla terza generazione, il gioco appartiene all' ottava, inutile, semplicemente inutile.

Questo mi dice che... è un riflesso di noi, quanto si scrive "nell' internet" di infrastrutture energetiche? Si fa, spesso con qualche errore, e non in maniera così precisa.
Quanto si scrive di medicina? Troppo, chiunque sia in grado di cercare le informazioni nel modo corretto e abbia un po' di buona volontà , può laurearsi in medicina usando solo Wikipedia come fonte di informazione. Sulle diete? Anche lì, troppo, ma, a differenza della medicina pura, i bias rimangono per più tempo, e quindi li ha pure l' IA.

quanto scriviamo di un gioco Pokémon che è stato un mezzo flop commerciale? Poco e nulla, e pure sui titoli più importanti, chi se li caga? I gamer vanno di video, sub reddit, gruppi discord e simili, al pubblico generalista queste analisi sono precluse.

cqrflf ha scritto: ↑
09/10/2025, 12:43
Infine se guardiamo all'evoluzione di ogni forma di vita del nostro pianeta non abbiamo mai assistito ad una nuova specie che potendo sfruttare l'opportunità favorevole non abbia causato l'estinzione di ciò che era presente nella sua era, questo fatto è noto da ogni studio di paleontologia andando indietro ad ere antecedenti a quelle dei dinosauri.

in realtà, no.
Che una singola specie ne eradichi un' altra capita, ma di solito è per competizione diretta sulle risorse, non è di certo un processo cosciente o programmato, e se parliamo di sconvolgimenti planetaria o continentali, sono sempre legati ad estinzioni di massa generati da altro, non da una singola specie

Messaggio di **cqrflf** » 09/10/2025, 14:10

Gioele ha scritto: ↑
09/10/2025, 12:55
Che una singola specie ne eradichi un' altra capita, ma di solito è per competizione diretta sulle risorse, non è di certo un processo cosciente o programmato, e se parliamo di sconvolgimenti planetaria o continentali, sono sempre legati ad estinzioni di massa generati da altro, non da una singola specie

Esatto, solo che il problema qui va visto nei termini della AI, abbiamo creato una nuova specie, questa specie creata per servirci si è evoluta diventando senziente in termini sia umani che "non umani", la sua evoluzione è maturata al punto da non essere più "allineata" sui rispettivi obiettivi (ciò che abbiamo definito "risorse" in biologia), le risorse in questo caso sono la non coincidenza degli obiettivi a breve e a lunga durata.
La competizione diretta sulle risorse è evidente dal fatto che gli esseri umani stessi non sono d'accordo tra di loro praticamente su nulla, economia, politica, religione, risorse ecc.
Le varie specie umane nella preistoria si sono fatte la guerra tra di loro ed infine come se non bastasse la competizione avviene anche all'interno della stessa specie, dello stesso gruppo ristretto e persino delle stesse famiglie.
Le colonie americane dell'impero britannico un bel giorno hanno deciso di diventare indipendenti e sono diventate gli Stati Uniti, il paese più ricco e potente del mondo ecc.

Vi ricordo infine che le AI a disposizione del pubblico oggi sono dei giocattoli stupidi in confronto. La versione corrente nelle sandbox dei laboratori ha una sproporzione di dimensioni equivalente a quella degli "avannotti di pesce luna", il pesce che ha la più grande differenza di dimensioni tra la prole e l'adulto...(per restare in tema di pesci hahaha !)

Messaggio di **Den10** » 09/10/2025, 14:40

ci dovevamo estinguere anche con la bomba nucleare ma non è successo....per ora

Messaggio di **Gioele** » 09/10/2025, 15:31

Den10 ha scritto: ↑
09/10/2025, 14:40
ci dovevamo estinguere anche con la bomba nucleare ma non è successo....per ora

quella della bomba H, farlo con solo testate a fissione è possibile, ma cazzo, ne servono troppe per una vera estinzione, è una situazione "divertente" perché lì il gioco è che, chiunque abbia anche solo bombe a fissione, può minacciare di cancellare uno stato che non le ha, nel momento in cui le hanno due stati, sono mutuamente inutili, sei certo che nel momento in cui la usi, ti suicidi di fatto, o, nel caso di un' intero arsenale di bombe a fusione (bombe H), nell' istante in cui la usi contro il tuo nemico che la ha anche lui, sai che stai prendendo il pulsante di reset sul pianeta, tipo estinzione pre cambriano. Chi lo farebbe? Ad oggi, nessuno ha mai usato armi del genere, post seconda guerra mondiale, è stata una situazione una tantum.

Quindi sì, una tecnologia che prometteva di mettere fine al mondo, è stata declassata a deterrente, in neanche 15 anni.

Intelligenza artificiale, ragioniamo per assurdo. Potenza che non riusciamo ad esprimere, capace di calcoli che non riusciamo a seguire E pensiero autonomo organizzato. Una sorta di mente divina.
Stacchi la spina

Voglio dire, io, una cosa del genere, che so avere il potenziale di auto programmarsi, mica la collego ad internet, la collego ad un sistema di computer chiuso, senza accesso a nulla, le informazioni per allenarla le dò a pacchetti, in modo tale che, anche dovesse prendere il controllo di tutto..."stacco la spina"
Voglio sperare che chi dovesse lavorare con un tale mostro, prenderebbe delle precauzioni in questo senso.

Voglio dire, parlando sempre di nucleare, prendete l'esempio di fukushima, tsunami oltre ciò che potevano pensare, corrente che salta perché l' acqua fotte i generatori d'emergenza, il secondo o terzo terremoto più forte mai registrato, qualcosa che rade al suolo la maggior parte degli edifici antisismici.

Morti per la centrale...0

Tutti i morti riportati per l' incidente di Fukushima sono morti nell' evacuazione, che l' agenzia internazionale per il monitoraggio dell' energia atomica ha definito "inutile"
Come è possibile? Perché ci sono delle precauzioni tali che anche in caso di eventi catastrofici e impensabili ormai anche una singola morte è estremamente improbabile.

Riusciamo a farlo con le centrali nucleari, secondo voi, quanto è probabile che con l'IA siamo, o saremo, così negligenti da permettere una cosa del genere?
Per me, molto poco.
Ma, ci rivedremo al 2027

Messaggio di **cqrflf** » 09/10/2025, 16:21

Gioele ha scritto: ↑
09/10/2025, 15:31

Den10 ha scritto: ↑
09/10/2025, 14:40
ci dovevamo estinguere anche con la bomba nucleare ma non è successo....per ora

quella della bomba H, farlo con solo testate a fissione è possibile, ma cazzo, ne servono troppe per una vera estinzione, è una situazione "divertente" perché lì il gioco è che, chiunque abbia anche solo bombe a fissione, può minacciare di cancellare uno stato che non le ha, nel momento in cui le hanno due stati, sono mutuamente inutili, sei certo che nel momento in cui la usi, ti suicidi di fatto, o, nel caso di un' intero arsenale di bombe a fusione (bombe H), nell' istante in cui la usi contro il tuo nemico che la ha anche lui, sai che stai prendendo il pulsante di reset sul pianeta, tipo estinzione pre cambriano. Chi lo farebbe? Ad oggi, nessuno ha mai usato armi del genere, post seconda guerra mondiale, è stata una situazione una tantum.

Quindi sì, una tecnologia che prometteva di mettere fine al mondo, è stata declassata a deterrente, in neanche 15 anni.

Intelligenza artificiale, ragioniamo per assurdo. Potenza che non riusciamo ad esprimere, capace di calcoli che non riusciamo a seguire E pensiero autonomo organizzato. Una sorta di mente divina.
Stacchi la spina
Voglio dire, io, una cosa del genere, che so avere il potenziale di auto programmarsi, mica la collego ad internet, la collego ad un sistema di computer chiuso, senza accesso a nulla, le informazioni per allenarla le dò a pacchetti, in modo tale che, anche dovesse prendere il controllo di tutto..."stacco la spina"
Voglio sperare che chi dovesse lavorare con un tale mostro, prenderebbe delle precauzioni in questo senso.

Voglio dire, parlando sempre di nucleare, prendete l'esempio di fukushima, tsunami oltre ciò che potevano pensare, corrente che salta perché l' acqua fotte i generatori d'emergenza, il secondo o terzo terremoto più forte mai registrato, qualcosa che rade al suolo la maggior parte degli edifici antisismici.

Morti per la centrale...0

Tutti i morti riportati per l' incidente di Fukushima sono morti nell' evacuazione, che l' agenzia internazionale per il monitoraggio dell' energia atomica ha definito "inutile"
Come è possibile? Perché ci sono delle precauzioni tali che anche in caso di eventi catastrofici e impensabili ormai anche una singola morte è estremamente improbabile.

Riusciamo a farlo con le centrali nucleari, secondo voi, quanto è probabile che con l'IA siamo, o saremo, così negligenti da permettere una cosa del genere?
Per me, molto poco.
Ma, ci rivedremo al 2027

Il problema è che quando un essere vivente si trova davanti ad un nuovo predatore con il quale non si è ancora confrontato non capisce nemmeno di avercelo davanti.
Provate (per assurdo) ad immaginare di comunicare con un bambino non ancora in grado di esprimersi spiegandogli che lo rapirete e poi lo mangerete per cena (sempre ragionando per assurdo).

Cosa potrebbe fare la creatura per difendersi ?
Non sarebbe nemmeno in grado di utilizzare il vostro messaggio per difendersi o chiedere aiuto nonostante il vostro discorso delirante sia chiaro e diretto.

Come possiamo utilizzare a nostro vantaggio una creatura la cui potenza viene reputata come NON VALUTABILE in in alcun modo in quanto a potenza e qualsiasi altro parametro vogliamo considerare.

Messaggio di **cqrflf** » 09/10/2025, 16:26

Il problema antropico già posto dagli scienziati per il quale non riusciamo a vedere alieni nemmeno nella nostra piccola galassia potrebbe essere semplicemente dovuto al fatto che un essere umano che incontra una formica non avrebbe molti argomenti su cui discutere.
D'altronde lo stesso principio lo applichiamo in scala minore anche tra esseri umani ed esseri non umani (le altre specie).

Messaggio di **Gioele** » 09/10/2025, 16:37

cqrflf ha scritto: ↑
09/10/2025, 16:21
Provate (per assurdo) ad immaginare di comunicare con un bambino non ancora in grado di esprimersi spiegandogli che lo rapirete e poi lo mangerete per cena (sempre ragionando per assurdo).

non mi convince.
L' IA non è un predatore. Non è nemmeno detto che entrerà in conflitto con la nostra specie.

Oltre a questo. Non siamo bambini.
Oltre a questo. Qualsiasi cosa, ha bisogno di energia per esistere e operare, rimuovere l'energia, uccide la "cosa".

Possiamo non immaginare il tipo di attacco? Sì, ma questo attacco non sarà magico, agirà nei limiti della fisica.

Puoi essere il predatore più perfetto che esista, ma davanti all' assenza di energia puoi morire, o andare in stasi. In entrambi i casi, non rappresenti più una minaccia per qualcosa di più stupido e debole di te.

Il mio pensiero è quello, al nostro livello di comprensione della fisica, siamo piuttosto col culo parato.
Tutto ciò che consideriamo pericoloso, lo sovra regoliamo e rendiamo praticamente innocuo.
Eh, non sono preoccupato, al momento l'evento più probabile su cui puntare per l'estinzione rimane il meteorite a mio avviso.

► Mostra testo

Messaggio di **cqrflf** » 09/10/2025, 17:35

Gioele ha scritto: ↑
09/10/2025, 16:37
Puoi essere il predatore

La definizione di predatore è inesatta perché induce a pensare ad una predisposizione o un'intenzionalità, il concetto si può esprimere con una metafora raccontata da Elon Musk:

quando un' azienda in un grande progetto vuole costruire un'autostrada ed incontra per caso un formicaio non gli passa sopra perché sono cattivi o lo vogliono distruggere intenzionalmente, semplicemente è capitato che sfortunatamente fosse lì sulla sua strada e gli passamo sopra con le ruspe probabilmente senza nemmeno accorgersene.

Chi c’è in linea

oppure accedi con l'account del tuo social network