Kinney Drugs trekt AI-telefoonassistent terug na honderden klachten van klanten

BURLINGTON, Vt. (WCAX) - Kinney Drugs schaalt de inzet van zijn AI-assistent terug nadat klanten melding maakten van onsamenhangende gesprekken, onjuiste doseringen en gemiste meldingen over recepten.

Kinney Drugs introduceerde in mei 'Burt', een AI-assistent vernoemd naar de oprichter van de apotheekketen. De rol van de bot was om met patiënten te communiceren over recepten en herhaalrecepten. Klanten meldden echter al snel een reeks problemen met de technologie, zoals eerst gerapporteerd door VTDigger.

"Eén ding dat ik wil benadrukken is dat het correct regelen van privacy en beveiliging niet betekent dat we de gebruikerservaring op orde hadden. Dat was niet het geval, en dat nemen we op ons," aldus John Marraffa, president van Kinney Drugs.

Marraffa geeft aan dat Kinney voor inkomende telefoontjes van patiënten terugkeert naar het oude model: het klassieke toetsysteem.

Privacy en beveiliging

Klanten uitten daarnaast zorgen over gegevensprivacy; zij vreesden dat hun persoonlijke gezondheidsinformatie via een AI-platform blootgesteld zou kunnen worden. Marraffa stelt dat Burt volledig HIPAA-compliant is en dat de AI niet open-source is en geen gegevens genereert of manipuleert.

Kinney behoudt Burt voor uitgaande communicatie, zoals sms-berichten voor herhaalrecepten, maar patiënten moeten hiervoor expliciet toestemming geven (opt-in).