Een Chinese man heeft naar verluidt meer dan twintig slaapwaarschuwingen ontvangen tijdens het rijden in zijn Xiaomi SU7. Het rijdermonitoringsysteem van de auto zou zijn van nature kleine ogen hebben aangezien voor tekenen van slaperigheid. Elke melding riep hem op wakker te blijven, terwijl hij volledig alert was. Het incident ging viraal op Chinese sociale media. Veel gebruikers trekken de nauwkeurigheid van AI-gestuurde veiligheidssystemen in twijfel. Critici stellen dat dergelijke systemen moeite hebben met gezichtsdiversiteit. Voorstanders benadrukken dat de technologie zich nog in een vroege ontwikkelingsfase bevindt. Xiaomi heeft nog geen uitgebreide openbare reactie gegeven. De kwestie heeft een breder debat aangewakkerd over mogelijke bias in slimme voertuigen en de kinderziektes van AI-rijhulpsystemen.
AI-waarschuwingssysteem Xiaomi SU7 onder vuur na foutieve slaperigheidsmeldingen
