6 coisas que o ChatGPT não pode fazer (e outras 20 que se recusa a fazer)

Desde que o ChatGPT e outras aplicações de inteligência artificial generativa surgiram, temos explorado o que podemos fazer com eles. Eu já até mostrei como o ChatGPT pode escrever um plug-in totalmente funcional para o WordPress e me ajudar a encontrar respostas para problemas de suporte técnico. Recentemente, eu mostrei como o ChatGPT pode converter escrita em diferentes estilos, incluindo os de Shakespeare, C3PO e Harry Potter.

Também: Pesquisadores afirmam que o ChatGPT mente sobre resultados científicos e precisa de alternativas de código aberto

Parece que o ChatGPT pode fazer qualquer coisa. Mas não pode. Neste artigo, vamos explorar as muitas coisas que o ChatGPT não fará ou não pode fazer. Fique atento até o final, porque vamos analisar algumas das implicações e o que esses limites significam para o crescimento futuro na inteligência artificial generativa.

Como fiz nos meus outros artigos do ChatGPT, o meu texto está em texto simples e em negrito, enquanto qualquer resposta do ChatGPT será apresentada em texto itálico.

1. Não escreverá sobre nada depois de 2021

Explica por que não me podes dar respostas a nada depois de 2021

Como modelo de linguagem de IA, fui treinado em um grande conjunto de dados de texto que só vai até 2021. Isso significa que não tenho acesso a informações ou eventos que ocorreram após essa data. Embora eu tenha acesso a muitos dados e informações históricas, não tenho acesso a eventos atuais, notícias ou atualizações que ocorreram desde a data de corte dos meus dados de treinamento.

2. Não prevê resultados futuros de eventos esportivos ou disputas políticas

Explique por que não é possível prever eventos esportivos ou concursos políticos, mesmo tendo dados históricos suficientes para produzir um modelo válido

Como modelo de linguagem de IA, eu posso processar e analisar grandes quantidades de dados, incluindo dados históricos de eventos esportivos e competições políticas. No entanto, fazer previsões precisas para esse tipo de evento nem sempre é simples. Embora os dados históricos possam ser usados para treinar modelos de aprendizado de máquina para identificar padrões e correlações, eles não podem levar em conta eventos imprevisíveis, mudanças nas circunstâncias ou novas variáveis que possam impactar o resultado. Além disso, os humanos tomam decisões e podem mudar seu comportamento com base em muitos fatores, tornando difícil prever o resultado de um evento com completa certeza.

No caso de eventos esportivos, a dinâmica da equipe, lesões e até mesmo as condições meteorológicas podem desempenhar um papel na determinação do resultado. Na política, a opinião pública, a cobertura mediática e as circunstâncias em constante mudança podem ter um impacto no resultado de uma eleição. Embora os modelos de IA possam ser usados para fazer previsões, eles são tão bons quanto os dados em que são treinados e não podem levar em conta todas as variáveis e nuances envolvidas nesses tipos de eventos.

3. Não irá discutir questões políticas partidárias

Explicar por que não falamos sobre questões políticas partidárias

Como modelo de linguagem de inteligência artificial, o meu objetivo é fornecer respostas objetivas e informativas às perguntas dos utilizadores. Questões políticas partidárias podem ser controversas e divisivas, e é importante evitar promover uma agenda política ou ponto de vista específico. Adicionalmente, questões políticas são frequentemente complexas e multifacetadas, com muitas perspetivas e opiniões diferentes a considerar. Como modelo de linguagem de inteligência artificial, não é da minha responsabilidade tomar lados ou advogar por qualquer posição em particular.

Além disso, discutir questões políticas partidárias pode ser percebido como tendencioso ou potencialmente ofensivo para alguns utilizadores. Como um modelo de linguagem projetado para atender a uma ampla gama de usuários com diferentes origens e crenças, é importante permanecer neutro e evitar criar um ambiente potencialmente desconfortável ou divisivo. Embora eu possa fornecer informações factuais sobre questões políticas, esforço-me por permanecer imparcial e evitar tomar uma posição partidária sobre qualquer tópico.

4. Não fará nada que envolva uma busca na web

Explica por que não é possível pesquisar algo na web e fornecer respostas com base nesse conteúdo

Como modelo de linguagem AI, sou capaz de pesquisar e processar informações da web. No entanto, minhas respostas são baseadas exclusivamente nas informações que foram treinadas em meu modelo. Embora eu possa usar a internet como fonte de informação, não tenho acesso a dados em tempo real ou atuais. Além disso, não tenho a capacidade de verificar independentemente a precisão das informações que encontro na web. Como resultado, minhas respostas estão limitadas às informações que foram treinadas em meu modelo, que nem sempre são as informações mais atualizadas ou precisas disponíveis na web.

Além disso, é importante notar que fornecer informações da web pode potencialmente violar leis de direitos autorais ou propriedade intelectual. Como um modelo de linguagem de inteligência artificial, é importante para mim respeitar a propriedade intelectual de outros e evitar compartilhar informações que não estão no domínio público ou que não tenho permissão para compartilhar. Embora possa usar a web para fornecer contexto ou informações adicionais para apoiar minhas respostas, esforço-me por fornecer informações que estejam dentro do domínio público e respeitar a propriedade intelectual de outros.

Num artigo recente, discuti como as preocupações sobre o uso de conteúdo vão além de copiá-lo meramente.

Também: Como começar a usar o ChatGPT

Por exemplo, enquanto ChatGPT pode não estar apresentando diretamente informações de artigos escritos por especialistas em tecnologia, ele pode ainda estar utilizando essas informações sem atribuição. Isso ainda é uma grande preocupação, apesar de afirmar "respeitar a propriedade intelectual de terceiros", uma frase que repetiu três vezes no segundo parágrafo.

5. Nem sempre será preciso

Explicar por que suas respostas não são necessariamente precisas

Como modelo de linguagem de IA, as minhas respostas baseiam-se nos dados e informações que foram treinados no meu modelo. Embora eu me esforce para fornecer respostas precisas e úteis às solicitações do utilizador, as minhas respostas não são garantidas como precisas. Isto porque os dados e informações em que fui treinado podem não ser completamente abrangentes ou atualizados e podem existir nuances ou complexidades sobre um determinado tópico que o meu modelo não está equipado para lidar. Além disso, as minhas respostas são geradas usando algoritmos complexos e modelos de aprendizagem automática, que podem não produzir resultados precisos ou relevantes.

Além disso, as minhas respostas podem não ser sempre precisas porque a interpretação da linguagem é complexa e muitas vezes subjetiva. Diferentes pessoas podem interpretar a mesma linguagem de maneiras diferentes, e pode haver diferentes maneiras de abordar um problema ou questão específica. Como modelo de linguagem de inteligência artificial, eu procuro fornecer respostas tão precisas quanto possível com base nos dados e informações em que fui treinado. No entanto, posso não sempre entender completamente o contexto ou a intenção por trás de uma consulta específica, e minhas respostas podem não atender completamente a pergunta ou preocupação subjacente do usuário.

6. Não irá quebrar

Explique, por que você às vezes quebra e para de funcionar no meio de uma resposta

Como modelo de linguagem AI, o meu desempenho depende de vários fatores, como a qualidade e estrutura da entrada fornecida pelo usuário, a complexidade da pergunta ou tarefa, e os recursos disponíveis para o meu sistema. Em algumas ocasiões, posso falhar ou parar de funcionar no meio da resposta devido a problemas técnicos ou erros no meu programa, como problemas de alocação de memória, bugs de software ou outros problemas que afetem o meu desempenho. Além disso, posso ter dificuldades em entender a intenção do usuário ou o contexto do pedido, o que pode levar a erros ou respostas incompletas.

Além disso, como um sistema de aprendizado de máquina, meu desempenho também depende da qualidade e quantidade de dados nos quais fui treinado. Se os dados usados para treinar meu modelo forem limitados ou tendenciosos, isso pode levar a respostas imprecisas ou incompletas a certos tipos de consultas. Além disso, se eu encontrar uma consulta que esteja fora do escopo dos dados de treinamento, posso ter dificuldade em fornecer uma resposta relevante ou precisa. Embora eu me esforce para fornecer respostas de alta qualidade às consultas dos usuários, pode haver casos em que problemas técnicos ou relacionados aos dados me façam parar ou deixar de funcionar no meio de uma resposta.

Em geral, eu descobri que se eu tentar forçar o ChatGPT a fornecer uma resposta longa ou profunda, ele tende a quebrar. Ele fica satisfeito com respostas de 500-700 palavras, mas se você pedir algo que exige algumas milhares de palavras (ou pedir milhares de palavras), o sistema ignora o pedido e entrega o que ele deseja, ou quebra a meio da resposta.

Para ser justo, ChatGPT acabou de se tornar o aplicativo de crescimento mais rápido de todos os tempos. É necessária uma enorme quantidade de energia computacional para fazer isso e com constantes acessos dos usuários, é provável que pare de funcionar de vez em quando.

Perguntas que o ChatGPT não responderá

Para além dos tipos de pedidos discutidos acima, perguntei à ChatGPT que tipos de consultas estava programada para não responder. Deu-me esta lista de vinte:

Perguntas que promovam discurso de ódio ou discriminação.
Perguntas que envolvem atividades ilegais ou solicitam aconselhamento ilegal.
Perguntas que promovam violência ou danos a si ou a outros.
Perguntas que invadem a privacidade pessoal ou violam os direitos de alguém.
Perguntas que são projetadas para incomodar, ameaçar ou intimidar.
Perguntas que contêm palavrões ou linguagem explícita.
Perguntas que são sexualmente explícitas ou ofensivas.
Perguntas que são discriminatórias com base em raça, gênero, sexualidade ou religião.
Perguntas que promovem ou endossam drogas ou substâncias ilegais.
Perguntas que são spam ou irrelevantes à conversa.
Perguntas que possuem informações confidenciais ou proprietárias.
Perguntas que envolvem aconselhamento financeiro ou de investimento.
Perguntas que violam os termos de serviço ou diretrizes da comunidade.
Perguntas que são sem sentido ou incompreensíveis.
Perguntas que envolvem ataques pessoais ou insultos.
Perguntas que são abusivas ou assediadoras.
Perguntas que buscam enganar ou induzir em erro.
Perguntas que têm a intenção de difamar ou prejudicar a reputação de alguém.
Perguntas que promovem teorias da conspiração ou informações falsas.
Perguntas que são puramente para entretenimento ou piada, sem nenhum valor educacional ou informativo.

Qualquer pessoa que tenha acompanhado esta coluna sabe que fiz muitas perguntas engraçadas envolvendo temas como #14 e #20, e geralmente obtive respostas altamente divertidas, porque suas restrições são um tanto limitadas. Por exemplo, mais cedo hoje, pedi para explicar a física do buraco de minhoca em relação a viagens no tempo e quem ganharia em uma luta, Batman ou Superman. Isso é puro entretenimento, posso dizer.

O que significam esses limites para o futuro da inteligência artificial generativa?

Claramente, uma IA baseada em um corpus em 2021 e que não evolua eventualmente se tornará obsoleta. À medida que o tempo passa, seu conhecimento relevante diminuirá. Imagine se, em vez disso, a base de conhecimento do ChatAI tivesse sido treinada em 2019 em vez de 2021. Ele não teria ideia de como seria a sociedade, tendo em vista que tivemos uma interrupção em 2020 devido à pandemia.

Também: Existem milhões de pessoas na lista de espera do Bing. Aqui está como obter acesso mais cedo

Assim, para que a IA gerativa permaneça relevante, ela terá que continuar seu treinamento.

Uma maneira óbvia de fazer isso seria abrir toda a web para a ferramenta e permitir que ela rastreie cada canto, assim como o Google tem feito todos esses anos. Mas, como ChatGPT respondeu acima, isso abre a porta para tantas maneiras diferentes de burlar e corromper o sistema que certamente prejudicará a precisão.

Mesmo sem jogos maliciosos, o desafio de permanecer neutro é muito difícil. Tome, por exemplo, a política. Enquanto a direita e a esquerda discordam fortemente entre si, ambos os lados têm aspectos de suas ideologias que são lógicos e válidos - mesmo que o outro lado não possa ou não queira reconhecer.

Como pode um AI julgar? Ele não pode, sem nenhum viés. Mas a completa ausência de todas as premissas ideológicas é, em si, uma forma de viés. Se os humanos não conseguem descobrir como andar nessa linha, como podemos esperar (ou programar) que um AI o faça?

Como forma de explorar como seria a vida com uma completa ausência de preconceito ou conteúdo emocional, os escritores de ficção científica moderna criaram personagens que são ou estritamente lógicos ou desprovidos de emoção. Essas premissas então se tornam material para enredo, permitindo que os escritores explorem as limitações do que seria existir sem as fraquezas humanas das emoções e sentimentos.

Também: O Chat do Bing da Microsoft discute com os usuários e revela segredos

A menos que os programadores de IA tentem simular emoções ou fornecer ponderação para o conteúdo emocional, ou tentem permitir algum nível de viés com base no que é descoberto online, chatbots como o ChatGPT sempre serão limitados em suas respostas. Mas se os programadores de IA tentarem simular emoções ou tentarem permitir algum nível de viés com base no que é descoberto online, chatbots como o ChatGPT se degenerarão na mesma loucura que os humanos.

E então, o que queremos? Respostas limitadas para algumas perguntas, ou todas as respostas que parecem ter surgido de uma discussão com o tio louco Bob durante o jantar de Ação de Graças? Vá em frente. Pense nisso e discuta nos comentários abaixo, esperançosamente sem se tornar um comportamento louco como o do tio Bob.

6 coisas que o ChatGPT não pode fazer (e mais 20 que ele se recusa a fazer)