Notícias

Humanos e computadores cometem erros

Na 14.ª Assembleia de Alumni da AESE, Michael Karasick, da IBM, falou sobre a Inteligência Artificial.

É de forma pragmática que o vice-presidente da área de Computação Cognitiva da IBM responde aos temores relacionados com os progressos acelerados das tecnologias de IA e às questões éticas que esta revolução integra. Concordando que é necessário tratar esta temática com todo o cuidado que ela merece, Michael Karasick afirma também que, por outro lado, é necessário assegurar que os sistemas de IA sejam utilizados em concertação com os humanos para que esse impacto seja minimizado.

Na medida em que a IBM é uma das empresas líderes no mundo da Inteligência Artificial – e com a sua superestrela Watson – quais são as suas maiores “apostas” para a próxima década?
MK: "Aprender a aprender com menos informação. Quando olhamos para as diferentes implementações da IA, ou são muito específicas (como o Watson na Oncologia), ou muito abrangentes e formadas a partir de quantidades astronómicas de dados. O desafio é encontrar a melhor forma de construir aplicações de IA, superiores e mais rápidas, com menor especialização humana e maior celeridade do que hoje. E o que observamos é que estes sistemas estão a tornar-se cada vez mais úteis, trabalhando em cooperação com as pessoas, compensando a incapacidade que um humano pode ter em ler 200 milhões de documentos e reter o que realmente importa ou encontrar ligações entre os mesmos. Este tipo de capacidade tornar-se-á cada vez mais ubíquo, em particular à medida que os sistemas forem aprendendo a raciocinar, complementarmente a aprenderem a aprender."

A IBM é igualmente reconhecida por ter sido pioneira na delineação da “computação cognitiva”. Como descreve esta tecnologia e em que medida é considerada uma disrupção?
MK: "Nós utilizamos o termo Computação Cognitiva para descrever um conjunto de aplicações que aprendem, raciocinam e compreendem e que são construídas com tecnologias de IA. Os sistemas que fazem parte da família tecnológica do Watson fornecem as tecnologias básicas, sendo que também as utilizam mediante formas particulares. Mas o que é crucial compreender é a verdadeira importância das tecnologias de IA – seja no que respeita à próxima geração de interface do utilizador, na visão, nos gestos ou em novas arquiteturas ou estruturas de deep learning."

É expectável que os avanços na IA tornem as capacidades de conversação dos computadores bastante mais sofisticadas. A chave reside em ajudar as máquinas a dominar um elemento crítico da conversação eficaz – o contexto. Como se está a processar esta revolução?
MK: "Estes sistemas aprendem com a experiência - por exemplo, um sistema que irá ter um diálogo com um determinado indivíduo poderá já ter sido exposto a diálogos similares, mas com pessoas diferentes. Os sistemas de conversação tendem a ser mais conscientes relativamente ao local onde os indivíduos estão, ou seja, tendo em conta os sistemas contextuais nos quais estes conversam (“sabendo” se os mesmos estão frustrados, envolvidos, aborrecidos, preocupados, etc.). Os robots que participam neste tipo de conversa têm olhos, o que permite a esses mesmos olhos capturar e analisar as expressões faciais, as quais se traduzem em sinais que as pessoas usam para interagir. Os sistemas irão melhorar à medida que formos aprendendo a fazer o tipo de integração de sinais que nós, enquanto humanos, usamos todos os dias."

Num relatório da IBM intitulado “The cognitive advantage: Insights from early adopters on driving business value”, conclui-se que as empresas pioneiras estão já a adotar a computação cognitiva como forma de vantagem competitiva. Para o mundo empresarial da atualidade, que valor é que está já a ser adicionado ao negócio e o que é expectável que aconteça no futuro próximo?
MK: "Existem exemplos em várias indústrias: seja na otimização das cadeias de fornecimento, na descoberta de materiais, no apoio ao cliente, no Direito, na Educação. Ou seja, sabemos que existem exemplos de diferenciação competitiva e valor de negócio em quase todas as indústrias – e seremos testemunhas de melhorias contínuas à medida que aprendermos a reimaginar as tarefas empresariais em cada uma delas."

A IA tem condições para ter um impacto positivo em quase todos os domínios da sociedade, mas estamos também conscientes de que a mesma pode ser utilizada para maus fins. Qual a sua opinião sobre as inúmeras questões éticas que com ela estão relacionadas?
MK: "Este problema não é recente, mas é verdade que a IA contribui para que ele pareça novo. A perceção de que os sistemas de IA aumentam a dependência do software é, talvez, uma declaração verdadeira. Existem também inúmeros exemplos de sistemas de IA que estão ser usados sem “guardiões”, sem supervisão humana e que podem resultar em consequências imprevisíveis. E temos de assegurar que estas questões sejam tratadas da forma adequada."

Acredita que será possível “incutir” valores humanos na IA, ou deveremos aceitar que os computadores serão sempre atores imperfeitos, porque não são capazes de sentir as emoções e as consequências dos seus “atos” tal como acontece com os humanos?
MK: "Não tenho muita certeza sobre o que são “valores humanos”[risos]. É certamente verdade que desejamos que estes sistemas se comportem de forma honrada. A IBM faz parte de uma parceria multissetorial, denominada “parceria com a IA”, que está preocupada com a utilização ética deste tipo de tecnologias. Mas quanto aos erros, sou pragmático. Os humanos e os computadores cometem erros hoje e os humanos e computadores irão cometer erros amanhã (e no dia seguinte). O que precisamos de fazer é assegurar que estes sejam utilizados de determinada forma, e em concertação com os humanos, para que esse impacto seja minimizado."

Entrevista por Helena Oliveira, Editora do Portal Ver

 

Artigos relacionados
Revista da 14.ª Assembleia Alumni AESE: "Mundo 4.0: Connecting People and Business"