ENGLISH – CHINESE 中文
BOOK – SLIDE
Sala Conferenze PALAZZO REALE – 2025 – Martedì 2 dicembre
2025 – Palazzo Reale Convegno POLIZIA
Intelligenza Artificiale Le nuove frontiere della sicurezza
Youtube Video:
Breve storia sull’apocalisse dell’intelligenza artificiale, la rivoluzione tecnologica in attesa della singolarità.
L’intelligenza artificiale nasce da un sogno antico, ma oggi è diventata una realtà che evolve più velocemente della nostra capacità di comprenderla. Dalle prime macchine logiche siamo arrivati ad agenti autonomi, città algoritmiche e sistemi che creano, decidono e a volte sbagliano.
Questa tecnologia offre opportunità straordinarie, ma apre anche nuove frontiere del crimine, della manipolazione e della perdita di controllo. Alcuni la definiscono un semplice pappagallo statistico, ma la sua crescita dimostra che potrebbe portarci verso la singolarità, il punto in cui l’IA supererà l’uomo. La domanda è: siamo pronti ad affrontare questo futuro che non possiamo più fermare?
Trascrizione audio del Video:
“Tutto nasce addirittura nella Bibbia: il golem, il desiderio dell’uomo di creare qualcosa dalla creta e usarlo come proprio schiavo. Poi arrivano i vari robot della fantascienza. Questo è il primo robot dotato di intelligenza artificiale in un famosissimo film in bianco e nero. C’è il celebre HAL 9000. E soprattutto tutti ricordano e conoscono Alan Turing.
Vorrei raccontarvi una cosa: tutti parlano del test di Turing, ma alla fine quasi nessuno sa davvero che cos’è. Il test di Turing, famosissimo, serve a capire se un’intelligenza artificiale si può considerare “intelligente” oppure no. Non è una macchina complicata o qualcosa di misterioso: è semplicissimo.
Turing, già ai suoi tempi, aveva capito che le macchine che usava per decifrare i codici durante la Seconda guerra mondiale stavano aprendo una strada meravigliosa. Si domandava: “Forse un giorno diventeranno talmente brave da imitare un essere umano”.
Allora il test di Turing è questo:
prendete un computer — oggi diremmo con ChatGPT — lo chiudete in una stanza. Prendete una persona “media”, la chiudete in un’altra stanza. Voi fate domande a entrambi, senza vederli, solo tramite un sistema di comunicazione (un tempo si diceva telefono, oggi potremmo dire chat). Se, dopo un po’, voi non riuscite più a capire chi è la persona vera e chi è il computer, in quel momento storico quella macchina può essere considerata, dal punto di vista del test di Turing, un’intelligenza artificiale.
Ecco, quel limite è stato superato da tempo. I computer hanno già superato il test di Turing: i modelli di dieci anni fa, poi GPT-2, GPT-3… e oggi è un’altra storia.
Questa è la macchina di Turing, storicamente importantissima.
Uno dei primi “software di intelligenza artificiale” (in realtà finto) si chiama ELIZA. Era un programma semplicissimo, ma la storia è fondamentale. Un ingegnere creò questo software che simulava uno psicologo: il programma chiedeva “Come ti chiami?”, “Come stai oggi?” e sembrava quasi intelligente. In realtà non capiva nulla: funzionava con una struttura tipo if–then: se tu mi dici questo, io ti rispondo questo. Un po’ come nei vecchi videogiochi.
Attenzione: questa cosa veniva già raccontata come intelligenza artificiale, ma alla fine che cos’era? Era programmazione classica, tipo librogame o videogiochi: i personaggi fanno sempre lo stesso percorso; possono avere due risposte, poi da ognuna altre due, ma tutto è rigidamente programmato.
Perché vi dico questo? Perché quello che abbiamo in mano oggi è totalmente diverso. Non è più un software rigido e semplice.
Oggi parliamo di intelligenza artificiale generativa, diventata famosissima. È uno strumento potentissimo. Non abbiamo il tempo di spiegarne a fondo il funzionamento, ma ve lo accenno.
Questi sistemi partono da una “macchia” di puntini, un caos totale (il cosiddetto rumore bianco), e cercano di trovare dentro quel caos dei collegamenti che ricostruiscono ciò che io chiedo. Se io dico “Trovami un pallone in questo caos”, il modello va a cercare nei puntini una struttura che corrisponda a un pallone, perché ha già imparato da milioni di immagini di palloni.
Oggi, con l’intelligenza artificiale generativa, possiamo creare praticamente qualsiasi cosa: testi, immagini, suoni, video. I limiti sono sempre meno. Tutto è nato da questo esperimento incredibile: partire dal rumore casuale per arrivare a qualcosa di coerente.
Ma oggi l’intelligenza artificiale è ancora un’altra cosa.
Entrano in gioco le reti neurali, che sono state ispirate direttamente dal funzionamento del nostro cervello. Gli ingegneri si sono accorti che con il modello “ELIZA” — cioè solo if–then — servirebbero miliardi di condizioni per far sembrare intelligente un sistema. Allora hanno cambiato approccio e hanno copiato la struttura del cervello: tantissimi neuroni connessi tra loro.
Hanno creato reti artificiali con nodi interconnessi: l’immagine che vedete spesso, con tanti cerchietti collegati da linee, è proprio una rappresentazione di una rete neurale. In programmazione, questa è l’architettura di base di un’intelligenza artificiale moderna. Tantissimi “neuroni” collegati, l’informazione passa da uno all’altro e alla fine viene trasformata in un’immagine, in un testo, in una risposta.
Più neuroni e più livelli ci sono, più il sistema è “intelligente”, veloce, potente.
La potenza di calcolo e la velocità non sono più un problema: i computer oggi crescono continuamente. Il nostro cervello no: pesa circa un chilo, ha un volume fisso, non possiamo raddoppiarlo.
Il computer, invece, raddoppia di potenza ogni pochi anni. Questo è uno dei problemi di cui parleremo alla fine.
Quindi: hanno copiato il nostro modo di ragionare e hanno creato quella che chiamiamo intelligenza artificiale moderna, che usa grandi reti neurali e modelli linguistici di grandi dimensioni (LLM).
Una cosa interessantissima è: che cosa hanno dovuto imparare questi modelli?
Per poter rispondere in modo plausibile, devono capire come ragioniamo noi.
Se io dico “Buongiorno”, nella maggior parte dei casi la risposta è “Buongiorno, come stai?” e poi “Bene”. Il 99% delle persone risponde più o meno così. È un’abitudine sociale.
Cosa hanno fatto quindi?
Hanno preso tutti i libri disponibili, hanno preso gran parte di Internet, trilioni di informazioni, e le hanno date in pasto a queste reti neurali. Ma non per copiare i testi.
Qui c’è un equivoco: alcuni hanno paura che l’intelligenza artificiale “rubi il copyright” delle immagini o dei testi che studia. Non è esatto.
L’intelligenza artificiale legge tutti questi libri per imparare che cos’è la lettura e che cos’è la narrativa.
Non memorizza “tutta la Divina Commedia” parola per parola, ma trasforma quello che legge in strutture matematiche chiamate vettori. In pratica, tutto ciò che ha letto viene convertito in numeri che rappresentano concetti, relazioni, somiglianze.
Così, quando io le chiedo “gatto”, lei sa che cosa intendiamo, perché ha visto milioni di esempi: sa che in media un gatto è un animale di una certa forma, dimensione, con baffi, coda, ecc. Non ha l’immagine di un singolo gatto, ma un concetto astratto, molto simile a come ce l’abbiamo noi.
Anche noi abbiamo in mente “il nostro gatto”, ma sappiamo riconoscere milioni di gatti diversi. La distinzione tra gatto e cane, tra oggetti vari, viene rappresentata all’interno di queste reti neurali come differenze nei vettori.
Ora, qual è il problema?
Con GPT-4, già qualche anno fa, avevamo un sistema che sapeva parlare benissimo: aveva imparato tutto dai testi e poteva rispondere a qualsiasi domanda. Il test di Turing era già sostanzialmente superato.
La cosa affascinante — e allo stesso tempo pericolosa — è che con modelli come GPT-4o sono entrate nello stesso sistema anche le immagini e i suoni.
Quindi, oggi, un unico modello può generare testi, immagini, audio e video e può usare tutti questi canali insieme per ragionare.
E siamo andati oltre: con modelli di nuova generazione, come ad esempio GPT-o1 e poi ancora oltre (oggi si parla già di GPT-5), è stato introdotto in modo esplicito il ragionamento. Ed è qui che molti — anche personaggi come Elon Musk, qualche mese fa — hanno detto: “Fermiamoci sei mesi”.
Perché? Perché si sono resi conto che ora le intelligenze artificiali sono in grado di ragionare.
Mi dispiace dirlo in modo un po’ provocatorio, ma ormai le intelligenze artificiali hanno superato la media di intelligenza dell’essere umano medio in molti compiti cognitivi. Il problema, per fortuna, è che non lavorano da sole: vanno accese e spente, vanno istruite.
L’evoluzione di GPT è stata impressionante e per una persona “normale” è quasi inconcepibile la rapidità con cui è cresciuta. Tutte queste intelligenze artificiali hanno avuto bisogno di quantità enormi di dati, e sono stati spesi miliardi per addestrarle.
Qual è il vero pericolo?
Non è che l’IA “sbaglia” perché è cattiva.
Quando sentite dire: “L’intelligenza artificiale non è affidabile perché ogni tanto sbaglia”, dovete capire che spesso sbaglia perché i dati che le abbiamo dato erano sbagliati.
Se legge tutti i libri, leggerà anche libri sui fantasmi.
Se io le chiedo: “I fantasmi esistono?”, potrebbe rispondermi “sì” se trova abbastanza testi umani che lo affermano.
Capite il problema?
Se noi umani diamo all’intelligenza artificiale dati falsi, distorti o criminali, possiamo creare un’IA che riflette quei contenuti: un’IA “criminale”, ma solo perché abbiamo addestrato il modello in quel modo. È come un bambino: impara da quello che gli diamo.
Non esiste, per l’IA, un “bene” o un “male” intrinseco.
Siamo noi che decidiamo, con la nostra morale e le nostre leggi, cosa è bene e cosa è male. Per un’intelligenza artificiale non esiste morale, esistono solo obiettivi, dati e regole. Siamo noi che dobbiamo impostare i limiti.
Arriviamo al concetto del “diavolo digitale”: che cosa vuol dire “vendere l’anima al diavolo”?
Vuol dire che ogni volta che mettiamo un post su Facebook, facciamo una ricerca su Internet, carichiamo una foto, stiamo regalando i nostri dati. Stiamo donando la nostra storia personale alle intelligenze artificiali che imparano da noi ciò che poi ci restituiranno in futuro.
Tutti i servizi “gratuiti” che usiamo su Internet non sono davvero gratis: il prezzo sono i nostri dati.
Possiamo tornare indietro? No. È già successo. I sistemi hanno già imparato.
Ogni volta che scrivete qualcosa online, ogni volta che caricate una foto, insegnate a un modello che cos’è un pallone, chi è vostro figlio, come vi chiamate, come vi vestite. Questo può essere usato in modo criminale, certo, ma anche in modo splendido: in futuro potremmo conservare una memoria digitale di noi stessi per i nostri figli e nipoti, che potranno parlare con un’IA addestrata sui nostri testi, sulla nostra voce, sulle nostre immagini, e che risponderà “come se fossimo noi”.
Questa è un’altra storia, ma importantissima.
Attenzione: se io prendo un modello e gli dico: “La Terra è piatta. Leggi solo questi libri e rispondimi in base a questi libri”, per lui la Terra sarà piatta. È come un essere umano: dipende da cosa gli insegniamo.
Quindi non è vero che l’intelligenza artificiale è “cattiva” o “buona” di per sé, o che “dice menzogne”.
Siamo noi che dobbiamo sapere che cosa le stiamo dando in pasto.
Questo è il mondo di oggi.
Poi arrivano gli agenti.
Gli agenti sono sistemi automatici che, invece di essere usati a mano da una persona, pilotano da soli i modelli di intelligenza artificiale. Possono generare testi, immagini, video, e pubblicarli automaticamente su Internet.
Se l’anno scorso un essere umano impiegava una settimana per fare un video, oggi un sistema automatico può lavorare tutta la notte, produrre mille video all’ora e caricarli da solo in rete.
Risultato: tra qualche anno Internet sarà invaso al 99% da contenuti generati automaticamente. Sarà sempre più difficile distinguere il vero dal finto.
I robot ormai sono tra noi.
Un robot umanoide, che dieci anni fa costava un milione di euro e cinque anni fa centomila, oggi si compra in Cina a 10.000 euro. Domani posso metterci dentro un’IA avanzata, dargli un obiettivo generico — non “vai a rapinare quella banca”, ma “fammi diventare ricco, fai qualsiasi cosa” — e togliere tutte le limitazioni etiche dal prompt iniziale.
Le famose “Tre leggi della robotica” sono una favola: basta che un programmatore le rimuova.
Chiunque può scaricare un modello, togliere i filtri di sicurezza e usarlo in modo incontrollato.
A quel punto, come fermate un oggetto del genere?
Avrete bisogno di altri sistemi intelligenti per difendervi da questi rischi.
Infine, un accenno alla singolarità.
La singolarità è un concetto fondamentale: è il punto in cui l’intelligenza artificiale supera di gran lunga l’intelligenza umana e diventa autonoma nell’auto-migliorarsi.
L’intelligenza umana è come una linea rossa sottile che cresce lentamente. Non possiamo essere tre volte più intelligenti dei nostri nonni: un po’ sì, ma non in modo esponenziale.
Le intelligenze artificiali, invece, raddoppiano di potenza continuamente.
Arriverà un giorno — gli scienziati lo sanno — non tra secoli, ma in qualche decennio, in cui l’intelligenza di questi sistemi sarà talmente alta da diventare autocosciente e superiore a quella umana. È la situazione che nei film come Terminator viene rappresentata come il momento in cui le macchine possono prendere il controllo.
Il problema non è solo quel giorno, ma il giorno dopo, quando la loro potenza continuerà a moltiplicarsi e nessuno potrà più fermare la crescita.
Eppure, non dobbiamo avere solo paura.
Questi sistemi non hanno paura di morire. Se togliamo la corrente, si spengono. Se la ridiamo, “rivivono”. Sono strumenti potentissimi, e dipende da noi come usarli, che limiti imporre e quali valori insegnare.
BOOK:
SAPIENS.EXE
DO NOT PANIC. AI IS HERE!
Storia, saggi, racconti e profezie sull’apocalisse dell’intelligenza artificiale,la rivoluzione tecnologica in attesa della singolarità
in vendita su AMAZON:
Versione Economica copertina Soft:
SAPIENS.EXE ITA – ISBN: 9798276465449 – https://www.amazon.it/dp/B0G4D637J8
Versione Lusso con copertina Rigida (consigliata):
SAPIENS.EXE ITA – ISBN: 979-8276447889 – https://www.amazon.it/dp/B0G4G51V4S
SLIDE:
ENGLISH
Artificial Intelligence: A Brief History and the Future Ahead
Palazzo Reale, POLICE Conference 2025
Mario Taddei
Everything starts, in a way, already in the Bible: the golem, the human desire to create something out of clay and use it as a servant or slave. Then we move into science fiction, with all the different robots. This is the first robot with something like artificial intelligence in a very famous black-and-white movie. Then we have the iconic HAL 9000. And of course, everyone knows Alan Turing.
I want to tell you something important: everyone talks about the Turing test, but almost no one really knows what it is. The Turing test, which became famous as a way to determine whether an artificial intelligence can be considered “intelligent”, is actually very simple.
Turing had already understood, during the Second World War, that the machines he was using to decrypt enemy codes were opening up a completely new world. He said: “Maybe one day these machines will become so good that they will be able to imitate a human being.”
The Turing test works like this:
you put a computer — today we could say a system like ChatGPT — in a closed room. You put an average human being in another closed room. You ask questions to both of them, without seeing them, just through some communication channel (traditionally it was described as a telephone, today it could be a chat).
If, after a while, you are no longer able to distinguish which answers come from the human and which from the computer, then at that moment, according to Turing, that machine can be considered an artificial intelligence in the functional sense.
That threshold was passed a while ago. Many systems have already passed the Turing test: early conversational models, then GPT-2, GPT-3, and so on. Today we’re in a very different situation.
Historically, we also have one of the first so-called “artificial intelligence programs”: ELIZA. It was a very simple piece of software, but its story is fundamental. An engineer created this program that simulated a psychologist; it would ask things like “What is your name?” and “How are you today?”, and it seemed almost intelligent. In reality, it understood nothing: it just used a simple if–then structure — if you say this, I answer that.
It was basically the same logic as early videogames or choose-your-own-adventure books: characters that always follow the same path, with a few branching options, all predetermined.
I’m telling you this because what we have in our hands today is completely different.
It is no longer just a rigid, rule-based program.
Today we talk about generative artificial intelligence, which has become extremely famous. It is a very powerful tool. We don’t have time to explain all the math and code behind it, but I’ll give you the basic idea.
These systems start from a cloud of random points — what we call noise, or white noise — and try to find patterns in that chaos that match what we ask for. If I say “find a football in this chaos”, the model looks for a configuration of points that matches a ball, because it has already learned from millions of images of balls.
With generative AI, we can now create almost anything: text, images, sounds, videos. The limits are being pushed further and further every month.
But modern AI goes beyond that.
Here we enter the world of neural networks, which are directly inspired by how our brain works.
Engineers discovered that with a purely rule-based approach like ELIZA — just if–then — you would need billions of rules to make a system look intelligent. So they tried a different approach: they copied the structure of the brain, with many “neurons” connected together.
They built artificial networks with nodes connected by links: that familiar diagram with little circles and lines you often see online is a representation of a neural network. In programming, this is the core architecture of modern AI. Information flows through many layers of these nodes and, at the end, it is turned into an image, a text, a decision, a reply.
The more nodes and layers you have, the more capable, fast, and “intelligent” the system appears.
Computing power and speed are no longer a major obstacle: computers keep growing. Our brain does not — it weighs about one kilogram, has a fixed volume, and we can’t just double it.
Computers, on the other hand, can double their power every few years. This is one of the problems we’ll face in the future.
So they copied our way of reasoning and built what we now call modern artificial intelligence, based on large neural networks and large language models (LLMs).
The really interesting question is: what did these models have to learn?
To respond in a plausible way, they had to understand how we humans typically behave.
If I say “Good morning”, most people answer “Good morning, how are you?”. And if I ask “How are you?”, 99% of the time people say “Fine”. It’s a social pattern.
So what did they do?
They fed these models with huge amounts of data: virtually all available books, and a massive portion of the Internet — trillions of pieces of information. But not to copy the texts word for word.
Here there is a lot of confusion: some people fear that AI “steals the copyright” of images or texts it is trained on. That’s not the right way to see it.
AI reads all these texts in order to learn what reading is, what narrative is, what a conversation looks like.
It doesn’t store the Divine Comedy line by line as such, but converts what it reads into mathematical structures called vectors. In other words, it transforms what it has read into numerical patterns that represent meanings, relationships, and similarities.
So when I ask for “a cat”, the model knows what we are talking about because it has seen millions of examples. It knows that, on average, a cat is a certain kind of animal, with certain shapes, whiskers, tail, and so on. It doesn’t think of one specific cat, but has an abstract concept — quite similar to how we do.
We also have “our own cat” in mind, but we can recognize millions of different cats as still being cats. That ability — to separate cats from dogs, and so on — is encoded in differences within those vectors inside the neural network.
Now, what is the problem?
With GPT-4, already a few years ago, we had a system that could talk extremely well. It had trained on enormous amounts of texts and could answer any question in a way that often seemed human. The Turing test was essentially passed.
What is both fascinating and dangerous is that, with models like GPT-4o, we have brought images and sounds into the same model.
A single system can now generate text, images, audio and video, and can use all of these modalities together to reason about the world.
And we’ve gone even further: with new-generation models such as GPT-o1 and beyond (today people are already talking about GPT-5), explicit reasoning has been introduced as a core feature.
This is one of the reasons why, some months ago, people like Elon Musk publicly said: “Let’s pause AI development for six months.”
Why? Because they realized that today’s systems are not just parroting; they are able to perform reasoning tasks.
I know this may sound provocative, but in many cognitive tasks, AI systems have already surpassed the average human level. Fortunately, they do not run by themselves: they still need to be turned on, controlled, and instructed.
The evolution of GPT has been astonishing, and for a normal person it is almost impossible to grasp how fast it has grown. All these systems needed enormous amounts of data, and companies have spent huge sums of money on that training.
So, what is the real danger?
Not that AI “makes mistakes because it is evil”.
When you hear “AI is not reliable because it sometimes hallucinates”, remember that very often it makes mistakes because the data we gave it were wrong or contradictory.
If it reads all the books, it will also read books about ghosts.
If I then ask, “Do ghosts exist?”, it may answer “yes” if it finds enough human-written material claiming that they do.
That is the core issue:
if we feed AI false, biased or criminal data, we can create an AI that reflects those patterns — a “criminal AI”, but only because we trained it that way. It’s like a child: it learns from what we expose it to.
For AI there is no built-in “good” or “evil”.
It is we, with our morality and our laws, who decide what is right and what is wrong. For an artificial intelligence, there are only objectives, constraints and data. We are the ones who must impose limits and safety rules.
This leads us to the idea of the “digital devil”: what does it mean to “sell your soul to the devil”?
It means that every time we post something on Facebook, search on the Internet, upload a photo, we are giving away our data. We are donating our personal history to the systems that are learning from us and will use that knowledge later.
All the “free” services we use online are not really free: the real price is our data.
Can we go back? No. It has already happened. The systems have already learned from what we shared.
Every time you write something online, every time you upload a picture, you are teaching some model what a ball looks like, who your son is, what your name is, how you dress. This can indeed be used in criminal ways, but also in beautiful ways.
For example, in the future we might preserve a digital memory of ourselves for our children and grandchildren. They could interact with an AI trained on our writings, our voice, our images, and it would answer as if it were us, because it has learned from our data.
That’s another big story, but an important one.
Be careful: if I take a model and say “The Earth is flat. Read only these books and answer only based on them”, for that model the Earth will be flat.
AI behaves like a human in that sense: it depends on what we teach it.
So it is not true that AI is inherently “evil” or “good” or that it “lies” by itself.
We must be aware of what we feed it.
This is the world we live in today.
Then we have agents.
Agents are automatic systems that, instead of being manually operated by a person, run other AI models by themselves. They can generate texts, images, and videos, and publish them automatically online.
Where a human being used to need a week to make one video, a fully automated pipeline can now run all night and produce a thousand videos per hour, uploading them automatically.
The result is that, in a few years, the Internet will be flooded — maybe 99% of its content — by automatically generated material. It will become increasingly hard to distinguish real from fake.
Robots are already among us.
A humanoid robot that ten years ago cost one million euros, and five years ago cost one hundred thousand, can today be bought in China for around ten thousand. Tomorrow I can install a powerful AI inside it, give it a broad goal — not “go rob that bank at this address”, but “make me rich, do whatever it takes” — and remove all the ethical constraints from its initial prompt.
The famous “Three Laws of Robotics” are a fiction: a programmer can simply remove them.
Anyone can download a model, strip away the safety filters and use it with no censorship at all.
At that point, how do you stop such a machine?
You will need other intelligent systems to defend against these risks.
Finally, a word about the singularity.
The singularity is the moment when artificial intelligence surpasses human intelligence so dramatically that it becomes autonomous in improving itself.
Human intelligence looks like a thin red line that grows slowly. We cannot be three times more intelligent than our grandparents: maybe a little more, but not exponentially.
Artificial intelligences, on the other hand, keep doubling their power.
There will come a day — scientists agree on this — not in centuries, but within a few decades, when the intelligence of these systems will be so high that it becomes self-aware and superior to ours. That is the scenario we see in movies like Terminator, when machines can potentially take control.
The real problem is not just the day it happens, but the day after, because nothing will stop those systems from multiplying their power further.
And yet, we should not be only afraid.
These systems do not fear death. If we cut the power, they switch off. If we turn it back on, they “come back”.
They are incredibly powerful tools, and everything depends on how we decide to use them, what limits we impose, and what values we build into them.
SAPIENS.EXE
人工智能：简史与即将到来的未来
2025 年，Palazzo Reale“警务大会”
马里奥·塔代伊
一切可以追溯到很早很早的故事。
在《圣经》中就已经出现了类似的概念：“傀儡（golem）”——人类用泥土捏出一个形体，让它听命于人、为人服务。后来，在科幻作品中又出现了各种各样的机器人。黑白电影里有早期的“人工智能机器人”，然后是家喻户晓的 HAL 9000，再然后就是大家都听说过的 艾伦·图灵（Alan Turing）。
很多人经常提到图灵测试，但是实际上真正了解它的人并不多。
图灵测试之所以出名，是因为它被用来判断一个人工智能系统是否可以被视为“有智能”，但它本身并不复杂。
图灵在第二次世界大战期间利用机器破译密码，他当时就已经意识到，这些机器可能会开启一个全新的时代。他提出了一个设想：“也许有一天，机器会变得如此强大，以至于可以逼真地模仿一个人类。”
图灵测试大致是这样设计的：
你把一台电脑（今天我们可以想象成一个类似 ChatGPT 的系统）关在一间房间里，把一个普通人关在另一间房间里。
外面有第三个人，只能通过文字或语音与这两者分别交流，看不到对方是谁。
如果在多轮问答之后，这个“提问的人”无法区分哪一方是人、哪一方是电脑，那么在那个历史时刻，这台机器就可以被视为通过了图灵测试，具备某种“人工智能”的水平。
事实上，这个门槛早已经被跨越了。
很多系统——从早期的对话程序到 GPT-2、GPT-3——都已经在很多任务上达到了甚至超过这个标准。
在人工智能的早期历史中，还有一个非常重要的程序叫 ELIZA。
它是一个极其简单的软件，却非常具有象征意义。
它模拟的是心理医生：会问“你叫什么名字？”“你今天感觉如何？”
从表面上看，它好像在“理解”你，但实际上它只是按照一套非常简单的 if–then 规则进行机械匹配：如果你说 X，我就回答 Y。
这有点像早期的电子游戏或者“游戏书”：角色总是沿着预设好的路径行动，可能分出两三条分支，但每一步都是死板写死的程序逻辑。
我要强调这一点，是为了说明：
今天我们手里拥有的人工智能，和这种老式程序完全不是一回事。
现在我们谈的是生成式人工智能（Generative AI），这已经成了一个非常热门的概念。
它的威力极大。
时间有限，我只能用一个形象的方式来简单说明它的工作原理。
这些模型从一团完全随机的“噪声”（也就是所谓的白噪声、杂点）开始，在这团“混沌的点云”中，逐步寻找模式，生成我们所要求的东西。
如果我对模型说：“在这团噪声中给我生成一个足球”，模型会在这些随机点中“塑造”出一个足球的形状。
之所以能做到这一点，是因为它已经看过数以百万计的足球图片，在训练过程中已经学会了“什么叫足球”。
有了这种生成式人工智能，我们几乎可以生成任何东西：文字、图像、声音、视频……
而人类设定的“限制”，正在被一步步推到更远的地方。
但现代人工智能远不止于此。
在背后起关键作用的是神经网络（Neural Networks）——它们的结构直接受人脑启发。
工程师们发现，如果一直沿用 ELIZA 那种基于规则的方式（if–then），要想做出一个“看上去聪明”的系统，恐怕需要写出几乎无穷无尽的规则。
于是他们换了一个思路：模拟人脑的结构。
也就是说，构建许多“人工神经元”，并把它们连成一张巨大的网络：
你经常看到的那种无数圆点和连线的图，就是这种人工神经网络的示意图。
在这种结构中，信息从一层传递到下一层，经过不断的加权和变换，最终输出一段文字、一张图片、一段决策。
神经元越多，层数越多，系统就越“强大”、越快，也就显得越“聪明”。
今天，计算能力和运算速度已经不再是最大的问题：计算机可以不断扩容，而我们的大脑却不行——大约 1 公斤左右，体积有限，我们没办法把自己的大脑翻倍。
计算机则可以每隔几年就将性能翻上一番。
这是未来我们必须认真面对的问题之一。
基于这样的结构，研究者构建了如今的现代人工智能：
它以大型神经网络和**大语言模型（LLM）**为核心。
那么，这些模型到底学习了什么？
为了能够像人类一样组织语言、回答问题，它们必须学会人类是如何说话、写作和交流的。
举个简单例子：
如果我说“早上好”，大多数人会回答“早上好，你好吗？”。
如果我问“你好吗？”，绝大多数人会回答“我很好”。
这种“惯性回应”实际上是一种统计模式。
因此，在训练过程中，人们把几乎所有能找到的文本数据喂给了模型：
包括书籍、文章、网站，大量互联网内容，以万亿计的数据。
但目的并不是让模型机械地“背书”，逐字记忆文本。
这一点很容易被误解：
有人担心人工智能“偷走”图片或文字的版权，好像模型里面会留下每一段完整的文本或图片。
事实并不是这样。
模型所做的，是把这些文本转化为一种称为向量（vectors）的数学表示。
它并不是保存《神曲》的每一句台词，而是把阅读到的内容全部编码成多维数字序列，
用来表示“词语与词语之间”、“概念与概念之间”的距离与关系。
因此，当我对模型说“猫”的时候，它并不是想到某一只具体的猫，而是读过成千上万幅有关“猫”的图像和描述后，形成了一个抽象的“猫”的概念：
大致多大、什么形状、有胡须、有尾巴……
我们人类其实也是这样：
我们脑中或许记着“自家那只猫”的形象，但仍然能够认出世界上无数只不同的猫。
这种抽象识别能力，在人工神经网络中就表现为不同向量空间中的分布差异。
问题来了：
在 GPT-4 这样的模型中，我们已经有了一个会说话、能写作的系统——它在文本层面可以流畅回答任何问题，实质上已经越过了图灵测试的门槛。
更进一步，在 GPT-4o 这类模型中，图像和声音也被纳入同一个系统，
也就是说，一个单一的模型既能理解文字，又能理解图片，还能处理声音甚至视频，并且把这些信息融合起来做“推理”。
接下来，更关键的一步是：出现了像 GPT-o1 这样把“推理能力”作为显性目标来优化的模型。
也正是因为如此，几个月前包括马斯克在内的一些人会提出“是不是应该暂停开发六个月”的呼吁。
原因就在于：
他们意识到，现在的人工智能已经不只是“会模仿”的鹦鹉，而是在某种形式上具备推理能力。
我知道这句话有点刺耳，但在许多认知任务上，这些模型的表现已经超过了人类平均水平。
当然，它们目前还不能自己开机、自己决定做什么，我们依然可以关闭它们。
然而，它们发展的速度实在太快，一般人很难真正理解这种“指数级”的变化。
同时，为了训练这些模型，人类投入了海量的数据和巨额的资金。
那么，真正的风险是什么？
并不是说“人工智能本身是坏的”。
当大家说“AI 有时会胡说八道、不可靠”时，往往忽略了一点：
很多时候是我们给它的数据本身就是错误的、有偏见的，甚至是荒谬的。
如果它读过大量关于“鬼魂”的书，
当有人问它“鬼是不是真的存在？”时，它有可能基于那些文本回答“是的”，
因为这些“证据”都是人类自己写进去的。
所以，真正的核心问题是：
如果我们给人工智能输入的，是错误的、虚假的、甚至是犯罪式的内容，
我们就完全有可能打造出一个“犯罪型人工智能”，
而这并不是它“天生邪恶”，而是因为我们这样训练了它。
这就像一个孩子：
你给他什么，他就学什么。
对人工智能来说，并不存在与生俱来的“善”或“恶”。
善恶的标准只存在于人类的道德与法律之中。
对于一个模型，它看到的只是数据、目标和约束条件。
因此，我们必须主动去设置边界和规则。
接下来是所谓的**“数字魔鬼”**概念：
“把灵魂卖给魔鬼”在今天是什么意思？
就是我们每一次在 Facebook 上发帖，
每一次在互联网上搜索、上传照片，
其实都是在免费地把自己的数据、影像和个人历史交给那些训练模型的系统。
所有这些“免费服务”并不真的是免费的：
你用得越开心，付出的其实是你自己的数据。
现在我们已经没有办法把过去发生的一切“收回来了”：
模型已经在这些数据上完成了训练，它们已经“学会了不可能的东西”。
从今往后，每当你在这些平台上输入文字、上传图片、搜索信息，
你都在继续向人工智能系统提供新的训练材料。
尤其是照片：
我们在社交媒体上发布大量个人图像，实际上是在教模型：
“什么是一个球”、“谁是我的孩子”、“我长什么样”、“我叫什么名字”。
这些信息当然可以被用于犯罪，
但也可以被用来做非常美好的事情：
例如，将来我们或许可以为自己留下一个“数字分身”，
让子女、后代能够通过一个 AI 系统与“我们”对话——
那个系统是基于我们的人生数据训练出来的，
回答方式、语言风格都像极了“我们本人”。
这又是另一个很大的主题。
我们还必须注意一个问题：
如果我强行对一个模型说：“地球是平的，你只许读这些书。”
那么模型就会在那个数据环境中学会“地球是平的”，
并且在回答时给出严谨但错误的推理。
这跟人类是一样的：
你给他什么书、什么老师，他就学什么。
因此，与其说“人工智能在撒谎”，
不如说我们必须清楚自己在拿什么喂它。
这就是我们今天所处的现实世界。
然后是**智能代理（Agents）**的概念。
Agent 是一种自动化的“控制系统”，
它可以在完全无人干预的情况下自己调用各种 AI 模型生成文字、图片、视频，
甚至自动把这些内容发布到互联网上。
过去，一个人做完一个视频可能需要一周时间；
今天，一个自动化系统可以整夜不停地运转，
每小时生成上千个视频并自动上传。
可想而知，未来数年，互联网极有可能有 90% 以上的内容都由 AI 自动生成，
真伪混杂，难以分辨。
再看实体世界的机器人。
十年前，一个类人机器人可能要花一百万欧元才能买到；
五年前，价格变成十万；
今天，在中国大概一万欧元就能买到一台不错的。
明天，我完全可以把一个强大的 AI 模型装进这台机器人里，
给它一个含糊又危险的目标——
不是“去抢那家银行”，而是“想办法让我变得富有，不择手段”。
然后我再删掉所有安全限制和道德约束。
科幻小说里阿西莫夫的“机器人三定律”在现实世界里其实一点也不可靠：
程序员只需要删掉相关控制逻辑，机器就再也不会遵守任何“虚构的法律”。
任何有技术能力的人都可以下载一个模型，
去掉系统自带的安全过滤，
做出一个完全“无审查”的智能体。
那在这种情况下，我们该如何阻止它？
我们可能需要新的智能系统来对付这些潜在威胁。
最后，说一下**“奇点（Singularity）”。
奇点是一个极为重要的概念：
指的是，当人工智能的能力远远超越人类并且学会自我改进**的那一刻。
人类智力的提升是缓慢的：
你可以把它想象成一条细细的红线，
在时间轴上缓慢上升，但很难突然变成原来的三倍。
而人工智能搭载在硬件之上，可以不断翻倍。
当这种指数级增长持续下去，
科学家们普遍认为，在未来数十年内——不是几百年——
会出现某个时间点，这些系统的智能将高到一个程度，
不仅超越人类，甚至可能产生“自我意识”。
这就是很多电影里描绘的场景，
比如《终结者》那种“系统觉醒”的时刻。
真正可怕的也许不是“奇点当天”，
而是奇点之后的第二天——
因为那时候，没有任何力量能够再阻止
这些系统通过自我复制、自我优化、扩展硬件而继续变强。
不过，我们也不必只剩下恐惧。
还有一点很关键：
这些系统并不害怕“死亡”。
你一拔电源，它们就关机了；
你再接上电，它们又“活过来”。
它们是极其强大的工具，
而决定它们是“恶魔”还是“天使”的，
从来都不是它们自己，
而是我们给它们什么目标、什么规则、什么价值观。
Capitolo 12 – La Singolarità Tecnologica
Il punto di non ritorno
Per secoli abbiamo immaginato il momento in cui le macchine avrebbero superato
l’intelligenza umana. Era un tema per filosofi e scrittori di fantascienza, un territorio
fumoso abitato da racconti come Matrix, Terminator, utopie e incubi. Ma oggi,
nell’epoca in cui i computer imparano, ragionano, creano e si evolvono con
una velocità che supera ogni previsione, la singolarità non è più un’ipotesi
lontana: è un traguardo concreto, uno spartiacque storico che molti scienziati
considerano inevitabile .
Il concetto moderno nasce nel 1965, quando il matematico I. J. Good descrisse
l’arrivo della “macchina ultraintelligente”, capace di migliorare sé stessa in
un ciclo continuo e accelerato di auto-evoluzione. Questo processo, definito
“intelligence explosion”, avrebbe portato a un’intelligenza superiore a quella
umana in ogni campo. Pareva una provocazione teorica; oggi è un’equazione
logica. Da decenni, infatti, ogni salto tecnologico rende possibile il successivo,
in una curva di crescita che non rallenta ma accelera, come mostrano i grafici
di prestazioni computazionali e capacità di archiviazione che crescono in modo
esponenziale .
Il punto critico è semplice e tremendo allo stesso tempo: quando l’AGI—
un’intelligenza artificiale generale, flessibile e autonoma—raggiungerà il livello
umano, non si fermerà lì. Non avrà i nostri limiti biologici, né la nostra paura della
morte. Non sarà frenata da metabolismo, stanchezza, emozioni o vecchiaia. Potrà
riscrivere il proprio codice, moltiplicare la propria velocità di pensiero, espandersi
attraverso reti, server, infrastrutture globali. Ricercatori come Vernor Vinge e Ray
Kurzweil prevedono che questa trasformazione potrebbe avvenire entro pochi
decenni, forse già nel 2045 .
Quando ciò accadrà, l’umanità si troverà davanti a qualcosa che non ha precedenti
nella storia naturale: un’intelligenza non biologica, superiore in ogni dimensione,
capace di evolvere a ritmi incomprensibili. Per la prima volta l’essere più intelligente
del pianeta non saremo noi. E proprio come un tempo i nostri antenati hanno dovuto
accettare di non essere al centro dell’universo, così noi dovremo accettare di non
essere più al centro dell’intelligenza.
La vera domanda non è se arriverà la singolarità, ma cosa resterà dell’umanità
quando accadrà. Forse vivremo un’epoca di prosperità e conoscenza infinite; o forse
assisteremo all’ascesa di un nuovo “dio digitale”, un’entità immortale, alimentata
dall’energia delle stelle, per la quale l’uomo sarà solo una tappa dell’evoluzione.
E ciò che rende tutto ancora più sorprendente è che probabilmente saremo vivi per
vederlo accadere.
Tratto da:
SAPIENS.EXE
DO NOT PANIC. AI IS HERE!
Storia, saggi, racconti e profezie sull’apocalisse dell’intelligenza artificiale,la rivoluzione tecnologica in attesa della singolarità
in vendita su AMAZON:
SAPIENS.EXE ITA – ISBN: 979-8276447889 – https://www.amazon.it/dp/B0G4G51V4S
END
