En risk med chattbottar av typen ChatGPT är att koden självsäkert kan presentera felaktigheter som fakta. Detta är förstås något utvecklarna är medvetna om och försöker undvika. I december förra året sa Sundar Pichai uttryckligen att folk måste kunna lita på svaren de får från Google och att Google behöver gå försiktigt framåt.

Problemet med sakfel i AI understryks av att Googles chattbott Bard hade fel redan i debuten. I ett av Googles exempel svarar Bard på frågan hur man kan prata med en nioåring om James Webb-teleskopet.

Bard svarade bland annat att teleskopet tog de allra första bilderna av en planet utanför vårt solsystem. Flera astronomer har påpekat att detta inte stämmer, då den första bilden av en exoplanet ska ha fångats redan 2004.

En talesperson för Google säger i ett uttalande att missen belyser vikten av ”en rigorös testprocess” och påpekar att Bard kommer testas både internt och externt framöver för att se till att chattbotten uppfyller företagets krav på kvalitet och säkerhet.