IA e os limites da recusa de comandos
Os modelos de inteligência artificial atuais são treinados para recusar um grande número de solicitações. Se você perguntar ao seu chatbot como envenenar um colega ou como amarrar um punhado de corda, é provável que ele se recuse. Mas essas recusas nem sempre funcionam, e às vezes com consequências desastrosas.
Alguns indivíduos estão tentando utilizar a IA para aprimorar patógenos biológicos e criar enxames de drones autônomos. Mais cedo ou mais tarde, falhas nas recusas podem resultar em catástrofes globais. Além disso, depender apenas da recusa significa estabelecer uma linha entre o que um modelo deve obedecer e o que deve resistir.
Os governos também vão traçar suas próprias linhas, o que pode restringir a liberdade de expressão. Ao mesmo tempo, as capacidades que tornam a IA útil também podem torná-la perigosa. Se queremos que a IA ajude a curar o câncer, ela precisa de conhecimento em genética que também poderia produzir armas biológicas.
Efeitos colaterais inesperados de medicamentos de perda de peso
Nova pesquisa sugere que medicamentos GLP-1 podem reduzir o envelhecimento biológico, mas também apresentam efeitos colaterais incomuns.
Os mais comuns são problemas gastrointestinais, mas pesquisadores investigam possíveis ligações com queda de cabelo, alterações ungueais e danos aos nervos por trás dos olhos.
Fontes e desenvolvimentos recentes
- China lidera instalações de turbinas eólicas; empresa Envision Energy alimenta data centers com energia renovável.
- Estados Unidos congelou green cards de empresas como Microsoft, acusadas de fraudes de vistos.
- Drone atinge segundo data center da Yandex na Rússia.
- Anthropic proíbe comportamentos abusivos contra o Claude e limita interações repetitivas.
- OpenAI reduz projeção de receita em $20 bilhões, gerando preocupações sobre investimentos em IA.
Com informações de: MIT Tech Review