Antwerpen, 9 februari 2021. « Kan technologie de mens vervangen? » Dit was de kernvraag van het online debat dat ik op 9 februari 2021 mocht modereren. In de eerste plaats ging het over de toepassing van technologie in de luchtvaart, maar een aantal overwegingen kunnen ook in andere domeinen toegepast worden.
Een eerste spreker, Filip Verhaeghe van het West-Vlaamse bedrijf (UN)MANNED (www.unmanned.aero) toonde hoe ver de technologie al staat om te kunnen anticiperen op onvoorziene omstandigheden. Dit kunnen vogels zijn, maar ook hobby-drones die het luchtruim delen met bemande toestellen. Puur door het verwerken van beelden, en dus zonder andere input van GPS, radiobakens, hoogtemeter of welke andere sensor dan ook, slaagt de software van (UN)MANNED erin om vliegtuigen consistent een correcte landing te laten uitvoeren.
Consistentie en betrouwbaarheid zijn zeer belangrijk om voldoende vertrouwen te geven in een volledig geautomatiseerd systeem. De firma streeft dan ook naar een foutmarge van één op één miljard vluchten. Bovendien zijn de systemen die ze ontwerpen redundant uitgevoerd. Als er dan toch een probleem zou zijn, kan een tweede module, en voorlopig ook nog een piloot op de grond, overnemen.
Om alles vlot te laten verlopen, wordt de software exponentieel complexer. Enkel door sterke geautomatiseerde testen kunnen effectief alle bugs efficiënt gevonden worden. Ook voor die testen heeft (UN)MANNED een oplossing ter beschikking.
Dat er anderzijds ook ongevallen gebeuren door technologie werd toegelicht door Tom Dieusaert, journalist en auteur van het boek ‘Computer Crash‘.
De problemen met de 737 MAX liggen natuurlijk nog vers in het geheugen: door een foutieve sensormeting corrigeerde de computer de neusstand tot wel 30 keer naar een té lage attitude. Telkens probeerden de piloten dit te corrigeren, maar zoals we allemaal weten is het toch twee keer slecht afgelopen. Wat minder geweten is, is dat kort voor de tweede crash een andere bemanning met hetzelfde probleem te kampen had, en wél op een correcte manier het foutieve systeem heeft kunnen afzetten.
Dit sluit meteen ook aan bij het punt dat de derde spreker maakt. Rudy Pont is captain op de A320, en bezeten met (vlieg)veiligheid. Hij argumenteert dat door systematische verbeteringen in opleiding, Crew Resource Management (CRM) en technologie vliegen veel veiliger is geworden. Doordat er minder ongevallen gebeuren, zijn er ook minder ‘leermomenten’. Voor de incidenten die het nieuws wél halen, wordt dikwijls verwezen naar de piloot als ‘schuldige’. Het label ‘menselijke fout’ biedt echter geen antwoorden. Vliegtuigen groeien niet aan de bomen en dus is er steeds een menselijke fout aanwezig; hetzij het in ontwerp, fabricage, onderhoud… Er zijn echter ook veel gevallen waarbij er ‘iets’ voorvalt, maar menselijke piloten dankzij hun adaptieve capaciteit (creativiteit) en ervaring de situatie kunnen redden. Dit was bijvoorbeeld het geval in het 737 MAX incident, voorafgaand aan de Lion Air crash, dat wél goed afliep omdat de piloten de trim runaway procedure toepasten. Er wordt echter te weinig geleerd uit Incidenten die geen zware gevolgen hebben en ze komen al zeker niet in het nieuws. Ze zijn een blinde vlek in het debat. Rudy argumenteert dat in plaats van ons de vraag te stellen ‘waarom dingen fout gaan’, we misschien beter de vraag stellen ‘waarom dingen goed gaan’ (Safety-II). Op die manier kunnen we de veerkracht van technologie én de mens versterken zodat onvoorziene situaties het hoofd geboden kunnen worden. Hij vreest echter dat onder economische en technologische druk (computers zijn nu eenmaal erg efficiënt) en omdat computers niet staken, de push naar een autonome cockpit moeilijk te stoppen is. Mogelijk is een single pilot cockpit nog een tussenfase, maar één piloot, zelfs met een back-up aan de grond vormt ook al een probleem. Momenteel zijn twee piloten elkaars sparring partner, en zijn ze samen sterker bestand tegen commerciële druk om in onveilige omstandigheden toch te vertrekken.
Alvorens we aan een volledige autonomie denken, moet gewerkt worden aan een systeem waar het niet ‘Man versus Machine’ is, maar ‘Man with Machine’. De toegenomen veiligheid in de afgelopen jaren door meer technologische ondersteuning bewijst dat dit een winning team is. Ook in andere domeinen is dit al gebleken. Zo verslaan teams van schakers die ondersteund worden door een computer zowel menselijke opponenten als computers, en kankerspecialisten die gebruik maken van artificiële intelligentie detecteren meer tumoren dan zij die alleen het beeld bestuderen.
Momenteel moeten piloten nog al te dikwijls door (papieren) checklists en procedures gaan, maar met computerondersteuning kan dit veel sneller en correcter. De computer zal zeer snel een correcte diagnose kunnen stellen en mogelijke opties voorleggen aan de piloot. Bij een motorfalen de foute motor stilleggen kan dan minder makkelijk voorkomen en ‘Sully’ zou meteen gezien hebben tot waar hij kon zweven na de aanvaring met een vlucht ganzen.
Of het grote publiek zich al dan niet zou willen laten voeren door een autonoom vliegtuig blijft ook de vraag, maar het panel denkt dat dit wel zal meevallen door de toename van andere autonome robots in onze leefwereld.
Een andere vraag is wat de perceptie gaat zijn als er zich een ongeval voordoet. Recent onderzoek aan het Massachusetts Institute of Technology (MIT) heeft uitgewezen dat computers, en bij uitbreiding de ‘uitbaters’ ervan strenger beoordeeld worden dan wanneer een mens dezelfde keuze gemaakt zou hebben met dezelfde afloop. (César Hidalgo, ‘How humans judge machines’, MIT press, 2021, gratis e-boek op www.judgingmachines.com/).
Voor morele vragen zoals een vliegtuig laten crashen met zekerheid van de dood van de inzittenden, versus een noodlanding riskeren met waarschijnlijke dood van onschuldigen op de grond, was er geen tijd. Ook dit zijn vragen die terugkomen in een bredere context, en het MIT heeft er een hele site aan gewijd (www.moralmachine.net/).
In ieder geval is iedereen in het panel het erover eens dat een groot passagierstoestel zonder piloot nog niet voor morgen is. Filip Verhaeghe ziet dat zitten binnen een twintig jaar, Tom Dieusaert en Rudy Pont denken dat het nog verder in de toekomst zal liggen.
Wél zou het dit decennium nog mogelijk moeten zijn om op korte trajecten zoals van een luchthaven naar een stadscentrum, van een volledig autonome luchttaxi gebruik te kunnen maken. Omdat dit korte trajecten zijn, kunnen ze ook beter gecontroleerd worden: er kan een vaste corridor gereserveerd worden voor de vluchten, de kans dat het weer onvoorzien omslaat is quasi nihil, en als er een mechanisch defect zou optreden, moeten de back-up systemen slechts enkele minuten overbruggen.
Een ander argument voor het feit dat dergelijke luchttaxi’s als eerste zonder piloot gaan vliegen, is gewoon het grote aantal waarmee deze dingen gaan rondvliegen. Misschien dat het momenteel nog als sciencefiction klinkt, maar verwacht wordt dat er vraag is voor duizenden toestellen. Als dat scenario werkelijkheid wordt, zijn er té weinig piloten om er voor iedere luchttaxi één te voorzien.
