Nieuwsbericht | Datum: 06-05-2019



TNO-advies: uitgebreide zwarte doos in zelfrijdende voertuigen

Bron: TNO



Meer info over observaties, verwerking, prestaties, beslissingen en context van AI-systeem

Hoewel zelfrijdende voertuigen veel veiliger kunnen zijn dan voertuigen met menselijke bestuurders, kunnen verkeersongevallen door zelfrijdende voertuigen niet volledig worden uitgesloten. In de nasleep van een ongeval moeten veel vragen worden beantwoord om aansprakelijkheidskwesties te kunnen beantwoorden. Maar het is waarschijnlijk nog belangrijker om van deze situatie te leren om ongevallen in de toekomst te voorkomen. Hiervoor is veel informatie nodig over de omstandigheden en de gevolgde procedures en 'keuzes' van het voertuig. Dat alles kan worden vastgelegd in Event Data Recorders (EDR's), in de volksmond bekend als "zwarte dozen".

Om zeker te stellen dat de benodigde feiten beschikbaar zijn voor alle relevante partijen, moeten het gebruik en de exacte specificatie van EDR's in wet- en regelgeving worden vastgelegd; bij voorkeur nog voordat zelfrijdende auto's de weg op gaan. EDR's, worden al veel gebruikt in voertuigen. In de meeste gevallen wordt echter alleen basale (sensorische) observatie-informatie opgeslagen zoals de snelheid en richting van het voertuig.

Aanvullende eisen aan zwarte doos
TNO heeft voor de Europese Commissie aanbevelingen geformuleerd omtrent welke aanvullende informatie moet worden opgeslagen in EDR's. Dit met als doel om de volledige keten van gebeurtenissen te kunnen beoordelen, inclusief observatie, verwerking, prestaties en context. Daarnaast moet aanvullende informatie helpen om te achterhalen of het systeem naar behoren is getest en in de juiste omstandigheden is gebruikt; gedacht kan worden aan informatie als het versienummer van de software en de gebruikte datasets voor het trainen en testen van de AI-gebaseerde componenten.

Ethische kaders van de AI
Zelfrijdende auto's kunnen met AI razend goed patronen herkennen uit de waargenomen informatie en die aan acties koppelen. Ze moeten daarnaast ook afwegingen kunnen maken over de wereld om hen heen, inclusief onder andere wettelijke en ethische kaders. Ze moeten dus, ook achteraf, over zichzelf kunnen redeneren en hun gedrag kunnen uitleggen. Dit vereist redeneervermogen. De informatie in de huidige EDR's vertelt ons nog niets over hoe de observaties door het voertuig zijn gebruikt om een ​​beslissing te nemen. Daarnaast is het ook nog van belang om te weten of de besloten actie ook daadwerkelijk en correct is uitgevoerd.

Betere regelgeving
In het advies van TNO komt ook naar voren dat in toekomstige wetgeving van EDR's rekening moet worden gehouden met de kosteneffectiviteit van de implementatie van EDR's. Buitengewoon hoge eisen stellen aan de hoeveelheid en het type gegevens dat moet worden verzameld, kan een toekomstige ontwikkeling belemmeren. Ook zijn veel aspecten rond data-eigendom en privacy nog steeds onduidelijk. Betere regelgeving is daarom vereist, waarbij niet alleen de privacy van de eigenaar maar met name ook van de gebruiker en de inzittenden van het voertuig centraal moeten staan.

Als onderdeel van de 'Study on Safety of non-embedded software' analyseerde TNO als leider van een Europees consortium met als partners VVA (Italië) en SSSA (Italië), het juridische en zakelijke landschap met betrekking tot nieuwe geavanceerde technologieën in verband met digitalisering en AI met als specifieke cases voor Medische apps, Industriële Robots en zelfrijdende auto's. TNO heeft onder meer een verkennend onderzoek gedaan naar specificaties van EDR's in wegvoertuigen en andere op AI-gebaseerde systemen op gebieden zoals industriële robots en autonome scheepvaart.




Deel dit artikel:                   





Uitspraak Raad van State project A27/A12 Ring Utrecht
Nieuwsbericht
Nieuw: Boek over Functionele Veiligheid in de machinebouw!
Weblogposting
EIB: Sterke toename werkvoorraad utiliteitsbouw in mei
Nieuwsbericht
800 miljoen extra nodig voor regionale fietsroutes
Nieuwsbericht
Beheersregime chroom-6 opgesteld
Nieuwsbericht
Mega-investering voor Evenementenhal Gorinchem met nieuwe hypermoderne beurshal: Next Level
Nieuwsbericht
Uitval werknemers ondergrondse infrastructuur kost jaarlijks bijna 100 miljoen euro
Nieuwsbericht
Pilz introduceert veilige bewaking van beschermde ruimtes met radartechnologie
Weblogposting
Gemeente Hoorn en ondernemers tekenen open convenant voor sterke regio
Nieuwsbericht
Onderzoek naar bouwen boven het spoor
Nieuwsbericht
Minister Van Nieuwenhuizen: Minder goederenvervoer via de weg
Nieuwsbericht
80 miljoen euro extra voor circulaire economie
Nieuwsbericht
Extra bevoegdheden weginspecteurs: handhaven op vluchtstrook rijden en hoogteoverschrijding bij tunnels
Nieuwsbericht
ProRail test duurzame dwarsliggers
Nieuwsbericht
Nieuwe zwaaikom en aangepaste invaart Zwarte Schaar gereed
Nieuwsbericht
Minister Van Nieuwenhuizen opent verbrede A6 Almere een jaar eerder dan gepland
Nieuwsbericht
Fors hogere kosten klimaatakkoord
Nieuwsbericht
Snellere start treinverkeer na spoorincident
Nieuwsbericht
Groen licht voor tests met zelfrijdende voertuigen op de openbare weg
Nieuwsbericht
Aantal grotere verstoringen op het spoor fors gedaald
Nieuwsbericht
Neerslagtekort toegenomen, voldoende aanvoer van water
Nieuwsbericht
Relevante vaarinformatie Waddenzee overzichtelijk gebundeld in één app
Nieuwsbericht
Nog nooit zoveel vacatures in de bouwketen
Nieuwsbericht


[Banners]


[Events]

[Rotating banners]