Bing Image Creator e il problema dei contenuti inappropriati

Quando Microsoft ha introdotto il modello DALL-E 3 di OpenAI nel suo generatore di immagini, Bing Image Creator, il servizio ha subito rallentamenti a causa dell’enorme afflusso di utenti interessati a provarlo. Tuttavia, Microsoft ha cercato di risolvere il problema aumentando il numero delle GPU nei suoi data center. Ora però si sta verificando un’altra complicazione, e questa volta è ancora peggio.

Un numero crescente di utenti si sta lamentando dell’impossibilità di inserire un testo da trasformare in immagine senza ricevere avvisi di contenuti potenzialmente inappropriati, anche se si tratta di parole comuni e non offensive. Alcuni hanno segnalato che richieste innocue come “un uomo rompe un rack del server con un martello” sono state bloccate dal servizio. Persino una richiesta di un utente su Reddit, che chiedeva un’immagine di “un gatto con un cappello da cowboy e stivali”, è stata segnalata come contenuto improprio.

Fortunatamente, Microsoft è consapevole della situazione. Quando un utente ha sollevato il problema con Mikhail Parakhin, responsabile di Microsoft Windows, quest’ultimo ha risposto che avrebbe indagato sulla questione. Sembra che ci sia stato un problema con il sistema di protezione dei contenuti di Bing Image Creator, e non è la prima volta che accade. Dopo il lancio del servizio, era diventato così aggressivo al punto da considerare una violazione persino la semplice digitazione della parola “Bing”.Parakhin aveva già scusato per quella situazione, definendola momentanea. Ci aspettiamo quindi che presto arriveranno ulteriori chiarimenti o, ancora meglio, una soluzione rapida al problema.

Per quanto riguarda il problema iniziale del rallentamento dovuto all’enorme traffico, Microsoft potrebbe cercare alternative a Nvidia per le GPU. La società sta sviluppando un suo programma e potrebbe rivelare maggiori dettagli durante la prossima conferenza Ignite 2023.