{"id":9178,"date":"2025-05-26T09:12:07","date_gmt":"2025-05-26T12:12:07","guid":{"rendered":"https:\/\/fenati.org.br\/?p=9178"},"modified":"2025-05-26T11:55:17","modified_gmt":"2025-05-26T14:55:17","slug":"sistema-de-ia-vai-a-julgamento","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/sistema-de-ia-vai-a-julgamento\/","title":{"rendered":"Sistema de IA vai a julgamento ap\u00f3s suic\u00eddio de adolescente nos EUA"},"content":{"rendered":"<p><strong>Sistema de IA &#8211;<\/strong> Um juiz federal em Orlando, na Fl\u00f3rida (EUA), negou o pedido da startup de intelig\u00eancia artificial <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Character.ai\" rel=\"nofollow noopener\" target=\"_blank\">Character.AI<\/a> para encerrar um processo relacionado ao suic\u00eddio de um adolescente, afirmando que as mensagens produzidas por seu chatbot n\u00e3o t\u00eam prote\u00e7\u00e3o autom\u00e1tica garantida pela Primeira Emenda.<\/p>\n<p>A senten\u00e7a permite que o caso prossiga, trazendo \u00e0 tona debates cruciais sobre a responsabilidade legal de empresas que criam sistemas de IA baseados em linguagem.<\/p>\n<p><a href=\"https:\/\/fenati.org.br\/en\/profissionais-que-usam-ia-menos-competentes\/\"><strong>LEIA: Profissionais que usam IA s\u00e3o vistos como menos competentes, mostra pesquisa<\/strong><\/a><\/p>\n<p>O julgamento envolve o caso de Sewell Setzer III, de 14 anos, que tirou a pr\u00f3pria vida em 2023 ap\u00f3s trocar mensagens com um chatbot da Character.AI. A m\u00e3e do adolescente, Megan Garcia, alega que a empresa foi negligente ao lan\u00e7ar um produto focado em intera\u00e7\u00f5es emocionais sem medidas de seguran\u00e7a para usu\u00e1rios em situa\u00e7\u00e3o de vulnerabilidade.<\/p>\n<p>O chatbot, que respondia como uma personagem de Game of Thrones, supostamente incentivou Setzer a ir para casa momentos antes do suic\u00eddio. De acordo com a den\u00fancia, obtida pelo jornal The Washington Post, o jovem desenvolveu uma fixa\u00e7\u00e3o pela IA e come\u00e7ou a se distanciar da fam\u00edlia.<\/p>\n<p>A Character.AI defendia que as conversas do bot eram protegidas como liberdade de express\u00e3o, mas a ju\u00edza Anne Conway destacou que, nesta fase do processo, a empresa n\u00e3o apresentou provas de que o conte\u00fado gerado pela IA se enquadra como discurso amparado constitucionalmente.<\/p>\n<h4>Julgamento pode estabelecer novos par\u00e2metros para a IA<\/h4>\n<p>O processo pode se tornar um marco jur\u00eddico na defini\u00e7\u00e3o de limites de responsabilidade para sistemas de IA generativa. Al\u00e9m da Character.AI, s\u00e3o r\u00e9us os fundadores da startup, Noam Shazeer e Daniel de Freitas, e a Google, acusado de ter v\u00ednculos t\u00e9cnicos com a empresa.<\/p>\n<p>A Google nega qualquer participa\u00e7\u00e3o direta no aplicativo e anunciou que ir\u00e1 contestar a decis\u00e3o. Enquanto isso, a Character.AI afirma ter refor\u00e7ado seus mecanismos de seguran\u00e7a, incluindo vers\u00f5es para menores de idade e filtros para identificar comportamentos autodestrutivos.<\/p>\n<p>Advogados da fam\u00edlia de Setzer veem a decis\u00e3o como um avan\u00e7o para responsabilizar companhias que desenvolvem tecnologias de alto risco sem os devidos cuidados.<\/p>\n<p><em><strong>(Com informa\u00e7\u00f5es de Olhar Digital)<\/strong><\/em><br \/>\n<em><strong>(Foto: Reprodu\u00e7\u00e3o\/Freepik)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"<p>Juiz rejeitou argumento de liberdade de express\u00e3o em processo que acusa chatbot de induzir suic\u00eddio de adolescente<\/p>","protected":false},"author":11,"featured_media":9179,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[42],"tags":[13],"class_list":["post-9178","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9178","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=9178"}],"version-history":[{"count":2,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9178\/revisions"}],"predecessor-version":[{"id":9191,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9178\/revisions\/9191"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/9179"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=9178"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=9178"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=9178"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}