A Comissão de Constituição e Justiça da Assembleia Legislativa do Estado de São Paulo aprovou, nesta semana, o Projeto de Lei n° 270/2024, de autoria da deputada estadual piracicabana Professora Bebel (PT), que institui o marco regulatório para o uso de ferramentas digitais de Inteligência Artificial no âmbito das escolas públicas e privadas do Estado de São Paulo. Agora, o projeto, que tem como coautora a deputada estadual Beth Sahão, também PT, segue para as demais comissões da Casa e, se aprovado, irá para plenário.

Na justificativa do projeto de lei, a deputada Professora Bebel diz que o Estado “fechar os olhos para a existência da Inteligência Artificial é um erro. Negar a possibilidade da Inteligência Artificial passar a estar cada vez mais presente nas escolas, é cegueira. Tomando como verdadeiras essas premissas, e ela são, o que é necessário é buscar criar um marco regulatório para essa realidade, de modo que não se deixe campo livre para ações aventureiras e impensadas sobre o assunto. Tal marco deve tomar a inteligência artificial como algo construído pela inteligência humana, que deve ser utilizada para o engrandecimento da humanidade e não para sua escravidão. Quando se pensa nesse uso nas escolas, deve-se reconhecer a necessidade de atenção redobrada aos estudantes, para que se proteja sua individualidade. A Inteligência artificial não é um mecanismo que tenha plena autonomia, porque é uma ferramenta que se auto educa, mas para tanto, toma como base conteúdo que está nas redes sociais, e esses conteúdos não são necessariamente filtrados, podendo ser carregados de preconceitos e material que não reflita a verdade científica, então, é necessário que exista uma agência reguladora, não para a censura, mas para construção responsável e solidária de sua utilização”, ressalta Bebel.

De acordo com a propositura, o marco regulatório poderá ser aplicado nas escolas da rede privada e nas escolas das redes públicas dos municípios do Estado de São Paulo, desde que essas redes estabeleçam convênio com o Estado de São Paulo. O projeto também considera ferramentas digitais de inteligência artificiais aquelas que são oferecidas por qualquer mídia digital que possibilite interação humana, e que se caracteriza pela geração de conteúdo, escrito ou não, automaticamente em resposta às suas solicitações, e que não realize apenas curadoria de conteúdos,  assim como aquelas que sejam capazes de se aproveitar de conteúdos existentes em ambiente digital e a partir desses, produzir novos conteúdos.

O uso da inteligência artificial nas escolas públicas do Estado de São Paulo, conforme estabelece o projeto de lei, deve estar fundado no reconhecimento de que seus mecanismos devem estar centrada no fato de que o ser humano é o centro de sua existência, de modo que seja instrumento que melhore suas capacidades, especialmente visando o desenvolvimento sustentável, e a colaboração homem-máquina eficaz, de modo que os princípios constitucionais relacionados à educação sejam plenamente atingidos. “O Poder Público deverá garantir acesso equitativo dos aos mecanismos de inteligência artificial quando definir a importância desse mecanismo para o processo educativo”, estabelece

Para isso, o projeto de lei cria a Agência Estadual Reguladora do Uso de Mecanismos de Inteligência Artificial nas Escolas Públicas do Estado de São Paulo (AER-IA), com representantes do Governo do Estado, dos professores, dos pais de estudantes e dos estudantes, das universidades, que terá como funções essenciais, a certificação dos mecanismos de inteligência artificial para uso nas escolas públicas do Estado de São Paulo, assim como a edição de materiais periódicos de orientação de seu uso, p  planejamento de ações de aperfeiçoamento no conhecimento e capacitação dos mecanismos de inteligência artificial nas escolas públicas do Estado de São Paulo, a formulação de código de comportamento ético na utilização de tais mecanismos, além da  constituição de fórum permanente entre a agência e as empresas mantenedoras de mecanismos de inteligência artificial, com o objetivo de conhecer tais mecanismos e entender as implicações de seu uso, bem como compreender o comportamento ético de cada um desses mecanismos, bem como os preceitos básicos de treinamento dos mecanismos de inteligência artificial e de seus mecanismos de proteção na coleta de dados para seu treinamento e formulação de conteúdo, de modo a evitar o uso de dados falsos ou fundados em preconceitos e conceitos socialmente inaceitáveis. Também estabelece a realização de  avaliações periódicas do uso dos mecanismos de inteligência artificial nas escolas públicas do Estado de São Paulo.

O projeto também estabelece que  a AER-IA será composta por 25 conselheiros, sendo cinco indicados por cada um dos segmentos estabelecidos na propositura, com mandato de dois anos, nomeados pelo governador do Estado de São Paulo, tendo suas ações reguladas por regimento interno que será elaborado por ela mesma. Caberá à Agência a responsabilidade no exercício de suas atribuições a  equidade no tratamento dispensado a todos os segmentos das escolas que possam fazer uso dos mecanismos de inteligência artificial, assim como a imparcialidade, evidenciada pela independência de influências de setores públicos ou privados que possam macular a credibilidade dos procedimentos decisórios inerentes ao exercício das funções regulatórias. Também deverá ter a capacidade de desenvolvimento técnico, de acordo com as necessidades de conhecimento necessário para o bom desempenho de suas funções.

Vanderlei Zampaulo – MTb-20.124