Vision-taalmodellen begrijpen 'geen' niet, risico's voor medische toepassingen

Een studie van MIT onthult dat vision-language-modellen slecht omgaan met woorden zoals 'niet' en 'geen'. Dat kan leiden tot ernstige fouten in toepassingen zoals medische diagnoses. Het fenomeen is te wijten aan de trainingsdata, die voornamelijk positieve bijschriften bevat.