L’INSICUREZZA DELLA SICUREZZA

Per l’aereo caduto in Etiopia si fa un’ipotesi agghiacciante, e cioè che l’incidente sia stato causato da un software programmato per evitare che accadano incidenti. La possibilità è stata presa in considerazione perché un incidente dalle modalità del tutto simili si è verificato per un aereo, identico come fabbricante e come modello, caduto in Indonesia.
Un aeroplano di solito viaggia in orizzontale. Poi, quando deve atterrare, magari cento chilometri prima, comincia a perdere quota, tenendo l’aereo col muso verso il basso, come un’automobile che proceda in discesa. Quando invece decolla, tiene il muso verso l’alto, come abbiamo visto tutti in migliaia di filmati. L’aereo ha interesse a raggiungere al più presto una certa altezza, sia per evitare gli ostacoli a fine pista, sia perché prima arriva ad alta quota, prima comincerà a consumare meno carburante. Ma ecco il problema: fino a che punto l’aereo può cabrare, cioè impennarsi?
Un autobus che procede in salita può superare certe pendenze, ma oltre una certa inclinazione il motore non sarebbe più capace di fare andare avanti il veicolo e questo si fermerebbe. La stessa cosa avviene per un aereo. Se l’angolo verso l’alto è eccessivo, l’aeroplano non avrà più la forza di proseguire l’ascesa e si “fermerà”. Purtroppo la sua strada è l’aria, e giunto a questo momento, chiamato “stallo”, non sarebbe più governabile. Infatti i suoi impennaggi non fenderebbero abbastanza aria per rispondere ai comandi del pilota e l’aeroplano probabilmente cadrebbe a vite, come una foglia morta. E sarebbe la fine per tutti.
Ciò potrebbe verificarsi perché il pilota è inesperto, perché ha perso i sensi, perché vuole suicidarsi o per qualunque altra ragione e dunque, per la sicurezza dei passeggeri, il fabbricante sogna di rendere l’errore “impossibile” e inventa un software automatico che obbliga l’aereo a calare il muso, in modo da evitare lo stallo, quand’anche il pilota volesse opporsi. E qui sorge un nuovo problema. E se fosse il software, a guastarsi? In questo caso, il computer “penserebbe” che l’aeroplano rischia lo stallo, mentre in realtà procede in orizzontale, lo obbligherebbe a rimettersi in quella che crede sia la posizione corretta, ma in realtà lo farebbe puntare verso il suolo, con le disastrose conseguenze che abbiamo visto.
Il problema non riguarda soltanto gli aeroplani ma tutti i sistemi di sicurezza. Quando si vuole essere sicuri che non accada una cosa, si rischia che ne capiti un’altra, altrettanto grave o peggiore. Prima dell’abbattimento delle Torri Gemelle di New York, la cabina di pilotaggio era aperta. Poi dei terroristi hanno potuto prendere il controllo di quattro aerei contemporaneamente e abbiamo avuto il più grande attentato che si ricordi. Allora si è rinforzata e chiusa la porta della cabina, in modo che nessun estraneo possa entrare in essa, se i piloti la chiudono. Solo che poi, sulle Alpi, un pilota tedesco, rimasto momentaneamente solo, ha deciso di suicidarsi mandando l’aereo a sbattere contro una montagna. E nessuno, neanche il comandante, momentaneamente uscito dalla cabina, ha potuto fermarlo. La cabina, come da programma, è rimasta inaccessibile, fino alla strage senza superstiti. E allora, come la teniamo, aperta o chiusa, quella porta?
Torniamo all’episodio recente. Se oggi creassero un software che impedisce al pilota di puntare diritto verso la terra, e poi questo meccanismo si guastasse, il computer potrebbe impedire all’aereo di atterrare, o addirittura farlo andare in stallo. Il risultato sarebbe lo stesso: la morte per tutti. Né si può permettere al pilota d’intervenire, perché un pilota può anche volersi suicidare, mentre un computer non avrà mai questa tentazione.
Il problema è finalmente chiaro. La sicurezza di cui sogna la gente non esiste. La vita non è mai a rischio zero e non c’è una soluzione definitiva. Si può soltanto scegliere quale rischio correre e bisogna prepararsi a perdonare chi si occupa di queste cose. Sia che si tratti di chi prepara software che impediscono incidenti, sia che si tratti degli operatori che, per sbaglio, provocano disastri. Anche nell’epoca dell’intelligenza artificiale la coperta rimane troppo corta, per prevedere tutto.
Gianni Pardo, giannipardo1@gmail.com
18 marzo 2019