A organizaĆ§Ć£o Access Now, que monitora ameaƧas aos direitos humanos no mundo digital, endereƧou esta semana uma carta aos investidores do Spotify manifestando preocupaĆ§Ć£o com uma tecnologia de reconhecimento de voz desenvolvida pela plataforma de streaming de mĆŗsicas.
A inovaĆ§Ć£o seria capaz de detectar o āestado emocional, sexo, idade ou sotaqueā dos ouvintes do aplicativo, o que, segundo a Access Now, tem potencial para violar o direito Ć privacidade e gerar situaƧƵes de discriminaĆ§Ć£o e quebra da liberdade de expressĆ£o.
O risco de discriminaĆ§Ć£o provocado por tecnologias utilizadas por plataformas digitais tem sido alvo de preocupaĆ§Ć£o de especialistas e de estudos, como o que apontou a possibilidade de “falso ativismo” em marcas que empregam influenciadores criados em computaĆ§Ć£o grĆ”fica.
Spotify pode monitorar emoƧƵes
NotĆcias sobre a nova tecnologia vĆŖm sendo divulgadas desde janeiro, mas segundo a organizaĆ§Ć£o, o Spotify havia se comprometido em nĆ£o usĆ”-la em seus produtos.
O recurso patenteado permite analisar a voz e sugerir mĆŗsicas com base no “estado emocional, sexo, idade ou sotaque” dos usuĆ”rios.
A patente, que foi requerida em 2018 e concedida este ano, permitiria ao gigante do streaming “fazer observaƧƵes” sobre o ambiente e as emoƧƵes de um usuĆ”rio a partir da tecnologia de reconhecimento de voz.
Leia tambƩm | Twitter reconhece que seu algoritmo de corte prioriza brancos, magros e jovens
O Spotify poderia entĆ£o tocar mĆŗsicas que refletissem o humor ou atĆ© mesmo o ambiente social do usuĆ”rio (se ele estĆ” sozinho, com amigos, por exemplo).
Para a Access Now, uma vez instalada, a funcionalidade poderia dar ao aplicativo o poder de manipular emoƧƵes, monitorando o usuĆ”rio e se colocando āem uma perigosa posiĆ§Ć£o de poderā.
O uso dos dados pessoais deste que seria quase um perfil psicolĆ³gico dos usuĆ”rios poderia cair em mĆ£os erradas para fins de espionagem, alerta a organizaĆ§Ć£o.
DiscriminaĆ§Ć£o por voz
A discriminaĆ§Ć£o de acordo com a voz seria possĆvel tambĆ©m, alerta a Access Now, que tambĆ©m vem se posicionando contra as tecnologias de reconhecimento facial.
āĆ impossĆvel inferir gĆŖnero sem discriminar pessoas trans e nĆ£o binĆ”rias e outras que nĆ£o se enquadram nos estereĆ³tipos de gĆŖnero. TambĆ©m Ć© impossĆvel inferir o gosto musical de alguĆ©m com base no sotaque, sem presumir que existe uma maneira ānormalā de falar ou cair em estereĆ³tipos racistas.ā
Leia tambĆ©m | Diversidade Ć© a ācoisa certaā e caminho para o lucro, aponta estudo sobre mĆdia, cinema, esporte e games
A privacidade de usuĆ”rios poderia ser violada, avalia a organizaĆ§Ć£o, uma vez que o dispositivo (smartphone, computador) estaria gravando tudo — possivelmente monitorando, processando dados de voz e armazenando informaƧƵes privadas.
Os dispositivos poderiam ainda coletar āmetadados ambientaisā, que poderiam informar ao Spotify sobre outras pessoas no ambiente, sem o consentimento delas.
“Deve ser entendido que as categorias de metadados de emoƧƵes, gĆŖnero, idade e sotaque sĆ£o meramente exemplos, e vĆ”rias outras caracterizaƧƵes e classificaƧƵes podem ser usadas”, aponta o documento onde o Spotify requisita a patente da tecnologia, publicado pela BBC.
āOs resultados seriam combinados com outras informaƧƵes – incluindo mĆŗsicas tocadas anteriormente pelo usuĆ”rio e o gosto musical de seus amigos – para melhorar as recomendaƧƵes.ā
PressĆ£o sobre investidores
“A tecnologia do Spotify estĆ” pronta para [ser usada para] discriminaĆ§Ć£o e abuso”, disse Jennifer Brody, gerente de defesa dos EUA na Access Now.
“Classificar pessoas com base em seu sotaque percebido, estado emocional ou gĆŖnero Ć© uma flagrante violaĆ§Ć£o dos direitos humanos.
Se os investidores nĆ£o tomarem uma posiĆ§Ć£o para garantir que o Spotify nunca implemente ou venda essa tecnologia, eles serĆ£o cĆŗmplices em priorizar o lucro sobre as pessoas.”
A Access Now afirma que levantou essas questƵes diretamente com o Spotify em abril, e a empresa prometeu que a tecnologia nunca seria empregada em nenhum de seus produtos.
Apesar dessa afirmaĆ§Ć£o, o Spotify nĆ£o se comprometeu a nunca usar, licenciar, vender ou monetizar a tecnologia.
Leia tambƩm
IBM vai usar inteligĆŖncia artificial para medir diversidade na propaganda