De robotautorevolutie bereikte dinsdag een verkeersdrempel toen senatoren en technische experts strenge waarschuwingen lieten horen over de potentieel dodelijke risico's van zelfrijdende auto's. Het lijdt geen twijfel dat er iemand zal sterven in deze technologie, zei Duke University-roboticus Missy Cummings in een getuigenis voor de Amerikaanse Senaatscommissie voor handel, wetenschap en transport. De vraag is wanneer en wat we kunnen doen om dat te minimaliseren.
Leidinggevenden in de automobielsector en wetgevers bespotten elkaar over de vraag of universele normen nodig waren voor zelfrijdende auto's, waarbij de particuliere sector zei dat normen de vooruitgang zouden vertragen en wetgevers antwoordden dat ze dezelfde bezwaren hadden gehoord over de bijgewerkte veiligheidsgordelnormen in 1998.
Senatoren Ed Markey en Richard Blumenthal, die samen wetgeving hebben gesteund die minimale testnormen voor geautomatiseerde stuurprogramma's voorstelt, vertelden twijfelachtige vertegenwoordigers van de industrie om in de rij te staan.
Als ik iemand zou vragen:denk je dat dat rode licht stop betekent? en ze kwamen bij me terug en zeiden:we hebben veel respect voor stoplichten, ik zou zeggen:het antwoord is ja, vertelde Blumenthal aan [W] Michael Ableson. De geloofwaardigheid van deze technologie is buitengewoon kwetsbaar als mensen de normen niet per se voor u kunnen vertrouwen, maar voor alle andere actoren die op dit moment in deze ruimte kunnen komen.
Markey onderbrak in gesprek met Delphi Automotives Glen DeVos de directeur toen hij een vraag probeerde te beantwoorden over de vraag of de industrie een minimale wettelijke norm zou steunen door te wijzen op de hoge normen van zijn bedrijf.
Ik ken jij doen, maar niet alle slechte bedrijven wel, zei Markey glimlachend. We keuren geen moordstatuten voor onze moeders goed. We doen het voor alle mensen die mogelijk moorden plegen.
De normen worden nu al moreel complex. Google Xs Chris Urmson, de bedrijfsdirecteur van zelfrijdende auto's, zei dat het bedrijf een aantal moeilijke problemen probeerde op te lossen. Waar te draaien naar het kind dat op de weg of over de kant van het viaduct speelt?
Google heeft zijn eigen wetten van robotica voor auto's bedacht:we proberen te zeggen:laten we ons uiterste best doen om kwetsbare weggebruikers te vermijden, en verder proberen om andere voertuigen te vermijden, en daarna dingen proberen te vermijden die niet binnenkomen de wereld, en om vervolgens transparant te zijn met de gebruiker dat dat de manier is waarop het werkt, zei Urmson.
Cummings zei dat de industrie nog lang niet klaar was om auto's op openbare wegen te gaan testen en dat de haast naar de markt erg gevaarlijk zou zijn, deels vanwege technische beperkingen maar ook vanwege boosaardigheid. [W]e weten dat mensen, inclusief fietsers, voetgangers en andere bestuurders, zouden kunnen en zullen proberen om zelfrijdende auto's te spelen, in feite proberen ze verschillende gedragingen uit te lokken of te voorkomen in pogingen om de auto's voor te zijn of gewoon om plezier te hebben, zei ze.
De roboticus hekelde ook wat ze karakteriseerde als de industrie die probeert openbare demonstraties te vervangen door rigoureuze tests zonder zijn eigen testprotocollen beschikbaar te stellen voor openbare controle.
We weten dat veel van de sensoren op zelfrijdende auto's niet betrouwbaar zijn bij mooi weer, in stedelijke canyons of op plaatsen waar de kaartdatabases verouderd zijn, zei Cummings. We weten dat gebarenherkenning een serieus probleem is, vooral in de echte wereld. We weten dat mensen op de achterbank gaan zitten terwijl ze denken dat hun auto op de automatische piloot staat. We weten dat mensen zullen proberen deze systemen te hacken.
Lees meer: http://www.theguardian.com/technology/2016/mar/15/self-driving-cars-danger-senate-general-motors-google
