A organizaĆ§Ć£o Access Now, que monitora ameaƧas aos direitos humanos no mundo digital, endereƧou esta semana uma carta aos investidores do Spotify manifestando preocupaĆ§Ć£o com uma tecnologia de reconhecimento de voz desenvolvida pela plataforma de streaming de mĆŗsicas.

A inovaĆ§Ć£o seria capaz de detectar o ā€œestado emocional, sexo, idade ou sotaqueā€ dos ouvintes do aplicativo, o que, segundo a Access Now, tem potencial para violar o direito Ć  privacidade e gerar situaƧƵes de discriminaĆ§Ć£o e quebra da liberdade de expressĆ£o.

O risco de discriminaĆ§Ć£o provocado por tecnologias utilizadas por plataformas digitais tem sido alvo de preocupaĆ§Ć£o de especialistas e de estudos, como o que apontou a possibilidade de “falso ativismo” em marcas que empregam influenciadores criados em computaĆ§Ć£o grĆ”fica. 

Spotify pode monitorar emoƧƵes 

NotĆ­cias sobre a nova tecnologia vĆŖm sendo divulgadas desde janeiro, mas segundo a organizaĆ§Ć£o, o Spotify havia se comprometido em nĆ£o usĆ”-la em seus produtos.

O recurso patenteado permite analisar a voz e sugerir mĆŗsicas com base no “estado emocional, sexo, idade ou sotaque” dos usuĆ”rios.

A patente, que foi requerida em 2018 e concedida este ano, permitiria ao gigante do streaming “fazer observaƧƵes” sobre o ambiente e as emoƧƵes de um usuĆ”rio a partir da tecnologia de reconhecimento de voz.

Leia tambĆ©m | Twitter reconhece que seu algoritmo de corte prioriza brancos, magros e jovens

O Spotify poderia entĆ£o tocar mĆŗsicas que refletissem o humor ou atĆ© mesmo o ambiente social do usuĆ”rio (se ele estĆ” sozinho, com amigos, por exemplo).

Para a Access Now, uma vez instalada, a funcionalidade poderia dar ao aplicativo o poder de manipular emoƧƵes, monitorando o usuĆ”rio e se colocando ā€œem uma perigosa posiĆ§Ć£o de poderā€.

O uso dos dados pessoais deste que seria quase um perfil psicolĆ³gico dos usuĆ”rios poderia cair em mĆ£os erradas para fins de espionagem, alerta a organizaĆ§Ć£o.

DiscriminaĆ§Ć£o por voz 

A discriminaĆ§Ć£o de acordo com a voz seria possĆ­vel tambĆ©m, alerta a Access Now, que tambĆ©m vem se posicionando contra as tecnologias de reconhecimento facial.

ā€œĆ‰ impossĆ­vel inferir gĆŖnero sem discriminar pessoas trans e nĆ£o binĆ”rias e outras que nĆ£o se enquadram nos estereĆ³tipos de gĆŖnero. TambĆ©m Ć© impossĆ­vel inferir o gosto musical de alguĆ©m com base no sotaque, sem presumir que existe uma maneira ā€˜normalā€™ de falar ou cair em estereĆ³tipos racistas.ā€

Leia tambĆ©m | Diversidade Ć© a ā€œcoisa certaā€ e caminho para o lucro, aponta estudo sobre mĆ­dia, cinema, esporte e games

A privacidade de usuĆ”rios poderia ser violada, avalia a organizaĆ§Ć£o, uma vez que o dispositivo (smartphone, computador) estaria gravando tudo — possivelmente monitorando, processando dados de voz e armazenando informaƧƵes privadas. 

Os dispositivos poderiam ainda coletar ā€œmetadados ambientaisā€, que poderiam informar ao Spotify sobre outras pessoas no ambiente, sem o consentimento delas.

“Deve ser entendido que as categorias de metadados de emoƧƵes, gĆŖnero, idade e sotaque sĆ£o meramente exemplos, e vĆ”rias outras caracterizaƧƵes e classificaƧƵes podem ser usadas”, aponta o documento onde o Spotify requisita a patente da tecnologia, publicado pela BBC.

ā€œOs resultados seriam combinados com outras informaƧƵes – incluindo mĆŗsicas tocadas anteriormente pelo usuĆ”rio e o gosto musical de seus amigos – para melhorar as recomendaƧƵes.ā€

PressĆ£o sobre investidores 

“A tecnologia do Spotify estĆ” pronta para [ser usada para] discriminaĆ§Ć£o e abuso”, disse Jennifer Brody, gerente de defesa dos EUA na Access Now. 

“Classificar pessoas com base em seu sotaque percebido, estado emocional ou gĆŖnero Ć© uma flagrante violaĆ§Ć£o dos direitos humanos.

Se os investidores nĆ£o tomarem uma posiĆ§Ć£o para garantir que o Spotify nunca implemente ou venda essa tecnologia, eles serĆ£o cĆŗmplices em priorizar o lucro sobre as pessoas.”

A Access Now afirma que levantou essas questƵes diretamente com o Spotify em abril, e a empresa prometeu que a tecnologia nunca seria empregada em nenhum de seus produtos.

Apesar dessa afirmaĆ§Ć£o, o Spotify nĆ£o se comprometeu a nunca usar, licenciar, vender ou monetizar a tecnologia.

Leia tambĆ©m 

IBM vai usar inteligĆŖncia artificial para medir diversidade na propaganda