Moderação por IA Você pode confiar
Crie agentes que leiam todos os comentários, identifiquem as chamadas mais difíceis e respondam com a sua voz. Cada ação é enviada com uma pontuação de confiança e a justificativa por trás dela. Lance novos agentes em modo de teste quando quiser observar os resultados primeiro.
Seis itens essenciais que todo agente leva consigo.
Navio com freios totalmente ligado.
Cada agente pode, opcionalmente, iniciar um teste. Cada ação destrutiva — banimentos, exclusões em massa, bloqueios de IP — pode ser controlada por uma fila de aprovação humana. O agente só vê as ferramentas que você optar por usar. O resto não existe para o modelo.
- Desativado, em modo de teste ou ativado. Alterne o estado sem precisar reimplantar um prompt.
- Lista de ferramentas permitidas por agente. As ferramentas não permitidas são completamente ocultadas do modelo, e não apenas rejeitadas em tempo de execução.
- Opções de banimento granular. Escolha separadamente a exclusão do histórico de um usuário banido ou o banimento por IP.
- Fila de aprovações com roteamento opcional por revisor. Envie e-mails para a pessoa certa, não para toda a equipe.
- Modelos de fornecedores que não são treinados com seus dados.
| Agente | Ação proposta | Alvo | Conf. | Análise |
|---|---|---|---|---|
| Fiscalizador de Termos de Serviço | Banir usuário (IP) | @throwaway-9281, 4 denúncias anteriores | 0,97 | |
| Recepcionista | Avise por mensagem direta. | Primeiro comentário, fora do tópico em /forums/intro | 0,81 | |
| Monitor de Spam | Marcar como spam, apagar histórico | 47 links de saída em 9 minutos | 0,99 |
Decisões tomadas com o quadro completo.
Um agente que vê apenas um comentário irá interpretá-lo incorretamente. Os agentes do FastComments consultam toda a discussão, o histórico do comentarista, a página em que ele está comentando e quaisquer diretrizes da comunidade que você tenha escrito — e então agem com base no que realmente entendem.
- Comentário do autor e respostas anteriores na mesma conversa.
- Fator de confiança, idade da conta, histórico de banimentos e comentários recentes do comentarista.
- Título da página, subtítulo, descrição e meta tags.
- Diretrizes da comunidade de inquilinos adicionadas antes de cada aviso para garantir a aplicação consistente das regras.
Acorde nos eventos certos. Tome apenas as atitudes corretas.
Selecione os eventos que devem ativar um agente. Selecione as ferramentas que ele pode usar quando isso acontecer. Ambas as listas são explícitas e ambas são aplicadas. Atrasos opcionais permitem que votos e relatórios sejam processados antes que o agente os verifique.
Gatilhos
- Novo comentário publicado
- Primeiro comentário do usuário
- A contagem de sinalizações ultrapassa o limite.
- Limiar de votos ultrapassado
- Capturado automaticamente pelo mecanismo de spam.
- O moderador analisa um comentário.
- Comentário editado ou excluído
- Comentário fixado, desafixado, bloqueado, desbloqueado
- Atraso opcional de até 30 dias antes da execução do agente.
Ações
- Mark fez a revisão.
- Aprovar / Reprovar
- Marcar como spam
- Fixar / desafixar / bloquear / desbloquear
- Vote em um comentário
- Escreva um comentário
- Conceda um distintivo
- Avisar um usuário por mensagem direta
- Banir um usuário
- Enviar um e-mail
- Guarde uma nota de memória
- 1Acionar
- 2Contexto
- 3Agente
- 4Ação
- 5Auditoria
Sem fatura surpresas.
Limites diários e mensais rígidos por agente e por conta. Alertas por e-mail a cada limite que você escolher. Quando um agente atinge seu limite, ele pausa. Sem custos adicionais, sem intervenção manual.
- Limites diários e mensais para cada agente individual.
- Consolidação de dados em toda a conta para que um agente não possa prejudicar o outro.
- Limiares de alerta personalizados. O padrão é 80% e 100%; recomendamos adicionar 50% para agentes que geram muitas mensagens.
- Limitação de taxa e limites de concorrência integrados, com contrapressão quando a fila fica saturada.
- Os gatilhos ignorados são registrados com o motivo, para que você saiba o que perdeu.
- acima do orçamento do agente
- Orçamento da conta excedido
- Taxa limitada
- Concorrência saturada
- Alerta de 50% enviado
- Alerta de 80% enviado
- 100% - pausado até o próximo mês
- Agente ToS Enforcer propôs marcar como spam em c#9b1f8 - confiança 0,97
- Justificativa: "O comentário é uma cópia literal de um modelo conhecido de spam de afiliados; conta de usuário com 8 minutos de existência."
- Execução automática (abaixo do limite de aprovação). Custo: US$ 0,0021 .
- Agente responsável pelos Termos de Serviço propôs banir o usuário @throwaway-9281.
- Aprovado por devon@fastcomments.com . Ação executada.
Construído para Conformidade com os padrões de qualidade de uma editora.
Cada ação do agente é registrada com a justificativa, o nível de confiança, a transcrição, o custo e o revisor. Cada banimento completo na região da UE exige a intervenção humana, definida por nós, não por você.
- Registros por execução: solicitação, transcrição, ferramentas utilizadas, ação tomada, justificativa, revisor.
- Artigo 17 da Lei de Segurança de Dados da UE: proibições totais exigem aprovação humana na região da UE. Ativado permanentemente; não pode ser desativado.
- As diretrizes da comunidade de inquilinos orientam as decisões de moderação. Suas regras, sua redação.
- Exibir nomes que você controla, diferenciando comentários escritos por agentes de comentários escritos por humanos.
- Compare os resultados de testes simulados com os resultados reais nas análises para que você possa comprovar o que foi automatizado e o que não foi.
Comece com um modelo. Valide com seus próprios dados.
Crie um novo agente a partir de um modelo predefinido e, em seguida, reproduza o comportamento dele comparando-o com semanas de seus comentários históricos para ver o que ele teria feito antes de ser ativado.
- Modelos predefinidos para casos de uso comuns de moderação. Os agentes criados iniciam em modo de teste.
- Reproduza o histórico nas últimas 24 horas, 7 dias, 30 dias ou em qualquer período personalizado de até 90 dias.
- Faça uma estimativa de custos antes de começar; o limite máximo interrompe a execução se for excedido.
- Os resultados da repetição são divididos em partidas, diferenças, nenhuma ação e erros para que você possa se concentrar nas divergências.
- Todos1,284
- Partidas1,031
- Deltas148
- Nenhuma ação97
- Erros8
As partes chatas, resolvido.
- 01
Bloqueio de execução por comentário. Dois agentes nunca interferem um no outro no mesmo comentário.
- 02
Prevenção de loops para que a resposta de um agente não acione indefinidamente outro.
- 03
Execuções com falha são repetidas com um número limitado de tentativas antes de serem marcadas como erradas. Nunca perdidas.
- 04
Escolha do modelo por agente. Alterne entre modelos otimizados para custo e modelos otimizados para qualidade sem precisar reescrever as instruções.
Junte-se aos nossos clientes satisfeitos
Os agentes de IA fazem parte da plataforma FastComments. Cadastre-se gratuitamente, teste qualquer agente, observe o que ele faria e, em seguida, implemente-o ao vivo.
Cadastre-se gratuitamente
Perguntas frequentes
Reunimos respostas para algumas das perguntas mais frequentes para ajudar você a começar!
Como funciona o modo de teste?
Um agente em modo de teste executa uma simulação completa, do início ao fim, para cada gatilho correspondente. Ele seleciona ferramentas, gera justificativas, decide sobre uma ação, mas a ação nunca é executada. Cada simulação é registrada para que você possa revisar o que teria acontecido antes de habilitá-la.
Quais modelos posso escolher?
Atualmente, temos o GLM 5.1 (mais inteligente, um pouco mais lento) e o GPT-OSS 120B Turbo (mais rápido). Ambos são hospedados por provedores que não treinam com seus dados. Adicionamos novos modelos conforme a relação custo-benefício se torna mais favorável.
Como funcionam os limites orçamentários?
Cada agente tem seu próprio limite diário e mensal, e sua conta possui um limite acumulado. Quando um agente ultrapassa seu limite, ele é pausado; alertas são enviados aos administradores de faturamento a cada porcentagem que você configurou. Os gatilhos ignorados ficam registrados para que você saiba exatamente o que não foi atingido.
Como você está preparado para o DSA?
O Artigo 17 da Lei de Segurança de Dados da UE exige revisão humana das suspensões de usuários. Na região da UE, a ferramenta de "banimento" está bloqueada por uma fila de aprovação e não pode ser totalmente automatizada. Trata-se de uma regra da plataforma que aplicamos, não uma configuração que você possa desativar. Cada ação é registrada com justificativa e nome do revisor para fins de auditoria.
Posso testar um agente antes de ativá-lo?
Sim. A função de reprodução executa um agente com base em seus comentários históricos, de até 90 dias atrás, e mostra correspondências, diferenças e divergências em relação ao resultado anterior. Você vê a estimativa de custo antes de iniciar e pode definir um limite máximo que interrompe a execução caso o custo seja excedido.
Posso trazer meu próprio roteiro e regras?
Cada agente possui uma mensagem inicial que define sua personalidade e objetivos. Você também pode inserir suas diretrizes da comunidade no contexto do agente, e o FastComments as adiciona a cada execução para que o agente aplique suas regras de forma consistente.
Apresente seu primeiro agente hoje.
Escolha um modelo, aponte-o para os gatilhos que lhe interessam e ative-o quando estiver pronto. Não é necessário cartão de crédito para se inscrever.