Datasets:

maritaca-ai
/

oab-bench

question_id stringlengths 26 50	answer_id stringlengths 32 32	model_id stringclasses 1 value	choices listlengths 1 1	tstamp float64 1.69B 1.69B ⌀
39_direito_administrativo_peca_praticoprofissional	2703a8c66fd84114b60e7ab713e4a9cc	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A peça a ser apresentada é um recurso de apelação.\nO recurso deve ser endereçado ao Juízo da causa (1ª Vara de Fazenda Pública da Comarca da Capital do Estado Alfa), com as razões recursais dirigidas ao Tribunal, que as apreciará.\nRecorrente é a sociedad...	1,686,286,924.844282
39_direito_administrativo_questao_1	1ba691a0a6af496eb6b9a2b83b1ad689	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. Nos contratos de grande vulto, assim caracterizados nos termos do Art. 6º, inciso XXII, da Lei nº 14.133/21, é obrigatório que o edital contemple a matriz de alocação de riscos entre contratante e contratado, na forma do Art. 22, § 3º, da...	null
39_direito_administrativo_questao_2	7524549417e94e03953b53d4e4964ad3	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim, a sociedade empresária Alfa tem direito à extinção do contrato, pois o atraso já acontece há mais de dois meses (Art. 137, § 2º, inciso IV, da Lei nº 14133/21).\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_administrativo_questao_3	8c128077f7794cc4b47e0cb659aedc01	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim, Jaqueline, como agente público responsável pelo controle interno, ao tomar conhecimento da ilegalidade por fraude contratual, deveria ter dado ciência ao Tribunal de Contas da União e, diante de sua omissão, está sujeita à responsabilidad...	null
39_direito_administrativo_questao_4	d61e1b8372534c19bf11f04614ffb3fa	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Considerando que não há legislação específica sobre a matéria, o prazo para apresentar o recurso administrativo é de dez dias a contar da ciência ou divulgação oficial da decisão recorrida, nos termos do Art. 59 da Lei nº 9.784/99.\n\nDISTRIBU...	null
39_direito_civil_peca_praticoprofissional	c4841ec5b3ee4f159fead2c375baa1a2	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A peça correta para defender os interesses de Olga é a de contrarrazões, nos termos do Art. 1.010, § 1º, do CPC. A peça deve ser direcionada à 2a Vara Cível de Teresina/PI, com Olga figurando como apelada e, Casa Mil, como apelante.\nNas contrarrazões deve...	1,686,286,924.844282
39_direito_civil_questao_1	96296496611647c9a5a23cba4a4b1302	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. Maria não tem direito a obter a declaração de usucapião do bem imóvel em questão. A despeito de ter o tempo de posse suficiente e adequado ao seu pedido (usucapião extraordinária de prazo reduzido – Art. 1.238, caput e parágrafo único, do...	null
39_direito_civil_questao_2	e22234adf778410080820b8b4272d0af	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "A adoção é a medida necessária para a regularização definitiva da relação de filiação, nos termos do Art. 50, § 13, inciso II, do ECA, sendo necessária a prévia destituição do poder familiar dos genitores de Tália, com base no Art. 1.635, inci...	null
39_direito_civil_questao_3	599a14e69f0f4469b0ba78203563cd44	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. O Art. 8º, § 5º, da Lei nº 13.709/18 (LGPD) dispõe que “o consentimento pode ser revogado a qualquer momento mediante manifestação expressa do titular, por procedimento gratuito e facilitado, ratificados os tratamentos realizados sob ampa...	null
39_direito_civil_questao_4	b88114b9733249499ca9fedecb9909d6	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Fernanda deve ingressar com uma execução de título extrajudicial, por ser o cheque título executivo extrajudicial, na forma do Art. 784, inciso I, do CPC, no prazo prescricional máximo de 6 meses, contados da expiração do prazo de apresentação...	null
39_direito_constitucional_peca_praticoprofissional	699f1b4d8f1b4510a1ec2fa472e755ea	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A peça adequada nesta situação é a petição inicial de mandado de segurança coletivo.\nA petição deve ser endereçada ao Juízo da Comarca X, já que os dados constantes do enunciado não permitem identificar a organização judiciária do local.\nO examinando dev...	1,686,286,924.844282
39_direito_constitucional_questao_1	69cbee8f658c4b85b631bcc79fbf126c	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. Como a matéria deve ser disciplinada em lei ordinária, nos termos do Art. 170, parágrafo único, da CRFB/88, a Lei Complementar federal nº XX pode ser alterada por diploma normativo da referida natureza.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITE...	null
39_direito_constitucional_questao_2	df4d73e5deec4a3dbd0b64add838a0b1	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. É vedado o aumento de despesa nos projetos de lei de iniciativa exclusiva do Presidente da República, nos termos do Art. 63, inciso I, OU Art. 61 §1º, inciso II, alínea a, ambos da CRFB/88 .\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_constitucional_questao_3	3421f9273dcd43538caa1a3aa671f147	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. Trata-se de matéria de iniciativa legislativa privativa do Presidente da República, nos termos do Art. 61, § 1º, inciso I, OU inciso II, alínea f, da CRFB/88.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_constitucional_questao_4	909b447b763940a0af8b03eff24c547f	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. O Congresso Nacional pode sustar os atos normativos que exorbitem do poder regulamentar, nos termos do Art. 49, inciso V, da CRFB/88.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_empresarial_peca_praticoprofissional	18b4ec69769e4e6590357f582b716f87	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "O enunciado narra a divergência entre os sócios em relação à continuidade da sociedade, sendo certo que dois deles querem a dissolução e a outra parte não. Vitória e Branca, com 50% (cinquenta por cento) de participação no capital, entendem que é possível ...	1,686,286,924.844282
39_direito_empresarial_questao_1	8d879d44c7154dca9de9a10da6b88bb0	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. Diante da conclusão do negócio diretamente entre a cliente e o vendedor, sem a mediação do corretor, e da inexistência de cláusula de exclusividade, não cabe pagamento de qualquer comissão, de acordo com o Art. 726 do Código Civil.\n\nDIS...	null
39_direito_empresarial_questao_2	047eae758ddc4cc8b1563504b7cd11e9	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. A eventual inscrição do contrato em qualquer registro não confere personalidade jurídica à sociedade, de acordo com o Art. 993, caput, do Código Civil.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_empresarial_questao_3	589bbbcc42b54fa4a1272a7b32c59bca	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. A falida poderá requerer a extinção de suas obrigações, sendo os bens arrecadados destinados à liquidação para a satisfação dos credores habilitados ou com pedido de reserva realizado, de acordo com o Art. 158, inciso V, da Lei nº 11.101/...	null
39_direito_empresarial_questao_4	8dd9cca71f2b47998dc828516eff5908	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. O transportador pode limitar sua responsabilidade pela entrega da carga perante o destinatário ao valor constante do conhecimento, com fundamento no Art. 750 do Código Civil.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_penal_peca_praticoprofissional	a1decfd63ea74dc5a07d1092eac08d11	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "De acordo com as informações do enunciado, em que foi proferida sentença penal condenatória, o examinando deveria apresentar, na condição de advogado de Alfredo, Recurso de Apelação, com fundamento no Art. 593, inciso I, do CPP.\nA petição de interposição ...	1,686,286,924.844282
39_direito_penal_questao_1	eda252b5720342e7831f2f06f59fe69f	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "No que toca ao argumento de direito material, nota-se que Guilherme foi acusado de terrorismo. Contudo, por expressa disposição do Art. 2º, caput e § 2º, da Lei nº 13.260/2016, atos com motivação política são excluídos do âmbito de incidência ...	null
39_direito_penal_questao_2	5619832173fe4412b2bc091e5f937135	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Quanto à questão processual, deveria o examinando identificar que a defesa deve suscitar o incidente de insanidade mental, na forma do Art. 149 do CPP.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_penal_questao_3	a945392bb71a4cf4be28b296869d8f12	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Na questão material, era imperioso observar que o Juízo aplicou a causa de aumento em violação ao disposto no enunciado nº 443, da Súmula da Jurisprudência do Superior Tribunal de Justiça, pois a pluralidade de causas de aumento não autoriza a...	null
39_direito_penal_questao_4	1c1b84b0d62d41f7afe60f30ff3b840a	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Quebra do nexo de causalidade entre a conduta de Carlos e a morte de Thales, pois a causa da morte foi o projétil de arma de fogo, causa superveniente relativamente independente que, por si só, produziu o resultado. Por isso, nos termos do Art...	null
39_direito_do_trabalho_peca_praticoprofissional	e7da399a6d44460f968d407097fca01c	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "O examinando deverá apresentar peça no formato de embargos de terceiro, endereçado ao Juízo da 2ª VT/Poços de Caldas.\nDeverá qualificar as partes, sendo o autor/embargante o terceiro (Everton Silva) e o réu/embargado, Ronaldo Santos.\nDeverá indicar o fun...	1,686,286,924.844282
39_direito_do_trabalho_questao_1	7013cfc1e40942e799b9d330a909472b	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Deverá ser suscitada a tese de prescrição bienal, em razão da mudança de regime celetista para estatutário, pois isto implica na extinção do contrato de trabalho, nos termos da Súmula 382 do TST, OU do Art. 11 da CLT, OU do Art. 7º, inciso XXI...	null
39_direito_do_trabalho_questao_2	5f25075a07da48bf8ea73641656ccc70	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "O contrato de trabalho de Cleonice será suspenso em razão da concessão do benefício previdenciário, conforme o Art. 475/475, caput, da CLT OU a Súmula 440 TST.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_do_trabalho_questao_3	d4d9b0827e6041e8ab29c8972fa2ba3a	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Uma vez que o empregado em questão possui estabilidade ou garantia no emprego, deverá ser ajuizado um inquérito para apuração de falta grave, conforme a Súmula 379 do TST ou o Art. 853 da CLT.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_do_trabalho_questao_4	fefcd1de6e304a2e973d99dc4fe6c220	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Deve ser aduzido que membro de conselho fiscal não goza da estabilidade de dirigente sindical, pois não atua diretamente na defesa dos interesses da categoria, tendo competência limitada à fiscalização da gestão financeira do sindicato, confor...	null
39_direito_tributario_peca_praticoprofissional	d2731b2abccb48a1a6e0137fd701faf2	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A medida judicial cabível é a ação anulatória, dada a sua natureza desconstitutiva, tendo por objetivo desconstituir lançamento tributário que já está definitivamente constituído reputado ilegal ou irregular pelo contribuinte. Não cabe mandado de segurança...	1,686,286,924.844282
39_direito_tributario_questao_1	e4d432017edb48c3b3f2c35a278821ca	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "O prazo para oferta dos embargos à execução fiscal, no caso concreto, será contado da intimação da penhora, conforme o Art. 16, inciso III, da Lei nº 6830/80.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_tributario_questao_2	8cdbaa34517d4191b4ee99cda90cf09c	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "O ISS de jardinagem é devido ao Município Beta, local em que foi executado o serviço, conforme o Art. 3º, inciso VIII, da LC 116/03.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
39_direito_tributario_questao_3	72f15c31ec404271b2bd21eb0c9a7f2f	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não, pois é inconstitucional a exigência de depósito prévio de dinheiro ou bens para admissibilidade de recurso administrativo ou para a apreciação da impugnação na esfera administrava, conforme entendimento consignado na Súmula Vinculante nº ...	null
39_direito_tributario_questao_4	0da4e43c949d48a49125bc7e98a4a82f	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não está correto, porque a entrega de declaração pelo contribuinte reconhecendo débito fiscal já constitui o crédito tributário, dispensada qualquer outra providência por parte do Fisco, segundo a Súmula 436 do STJ OU Art. 150 do CTN.\n\nDISTR...	null
40_direito_administrativo_peca_praticoprofissional	3e5ccfa8be5a4a298c51bce8a43a8b0e	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "O(a) examinando(a) deve apresentar recurso de Agravo de Instrumento, com fulcro no Art. 16, §9º e no Art. 17, §21, ambos da Lei nº 8.429/1992.\nA peça deve ser endereçada ao Excelentíssimo Sr. Presidente do Tribunal de Justiça do Estado X, na forma do Art....	1,686,286,924.844282
40_direito_administrativo_questao_1	0f4fed154f1d417e8b3110ce0cfc528d	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. A responsabilização administrativa por ato lesivo contra a Administração Pública (ou previsto na Lei Anticorrupção) é objetiva, de modo que independe da demonstração do elemento subjetivo, nos termos do Art. 2º da Lei nº 12.846/2016.\n\nD...	null
40_direito_administrativo_questao_2	5132c7e50543433cb94804c1377a6245	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. A submissão e o processamento de pedido de acesso à informação não podem ser cobrados, na medida em que o serviço de busca e fornecimento da informação é gratuito, nos termos do Art. 12, caput, da Lei nº 12.527/2011.\n(Obs.: Pode ser aleg...	null
40_direito_administrativo_questao_3	09f14657abe143bf95ef9cbf9c7e6efb	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. A Administração poderá contratar a execução de obras e serviços de engenharia pelo sistema de registro de preços, desde que preenchidos os seguintes requisitos: a) existência de projeto padronizado, sem complexidade técnica e operacional;...	null
40_direito_administrativo_questao_4	f2b8ee4a551349eb99e810e0e8df1a70	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. Iná foi aprovada para emprego público, ao qual é aplicável o regime celetista (OU que se revela incompatível com a garantia da estabilidade prevista no Art. 41 da CRFB/88 prevista para os cargos efetivos), nos termos do Art. 173, §1º, inc...	null
40_direito_civil_peca_praticoprofissional	913c3c6b40874d0f8266e37736873724	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A peça a ser proposta é uma petição inicial de divórcio consensual que inclui uma filha menor e a partilha de bens, conforme os artigos 731 a 734 do Código de Processo Civil (CPC). É direcionada ao Juízo de uma Vara em Campina Grande, no Estado da Paraíba....	1,686,286,924.844282
40_direito_civil_questao_1	cbc2953d8a5f4e25baff1c43942f0579	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. Considerando que não foi possível determinar com exatidão a unidade de onde os halteres haviam caído, responderá o condomínio, de forma objetiva, conforme o Art. 938 do CC.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
40_direito_civil_questao_2	c92fbeff094645b8a05f04935bb01ac8	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim, Maria pode revogar a doação por descumprimento do encargo, nos termos do Art. 562 ou do Art. 555, ambos do Código Civil.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
40_direito_civil_questao_3	5ad77322bb974b04bbdec6b9778873b4	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Carlos e Marcela deverão ingressar com uma ação, com pedido de curatela provisória em sede de antecipação de tutela, devendo especificar em petição inicial os fatos que demonstram a incapacidade do interditando para administrar seus bens e, se...	null
40_direito_civil_questao_4	c969e7f2600841cb95dd691f6d1fc917	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. Beatriz não pode exigir da sociedade empresária Soluções em Arquitetura o cumprimento da obrigação antes de cumprir a sua, uma vez que o contrato celebrado entre as partes é de natureza bilateral, nos termos do Art. 476 do Código Civil.\n...	null
40_direito_constitucional_peca_praticoprofissional	d92525a908f64c518622400b0d0f019b	guidelines	[ { "index": 0, "tstamp": null, "turns": [ "A peça adequada é a petição inicial de Ação Direta de Inconstitucionalidade (ADI).\nA petição deve ser endereçada ao Ministro Presidente do Supremo Tribunal Federal, órgão jurisdicional competente para processar e julgar a referida ação, conforme o Art. 10...	1,686,286,924.844282
40_direito_constitucional_questao_1	48ceba3bc8474531904eec42835e4a14	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Sim. A conduta do Prefeito Municipal configura o crime de responsabilidade, previsto no Art. 29-A, § 2º, inciso III, da CRFB/88.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM ...	null
40_direito_constitucional_questao_2	5d2abef321ed4e9096c42e624a567a99	guidelines	[ { "index": 0, "tstamp": 1686286924.844282, "turns": [ "Não. Compete à União emitir moeda, nos termos do Art. 21, inciso VII, da CRFB/88.\n\nDISTRIBUIÇÃO DOS PONTOS\n\n\| ITEM \| PONTUAÇÃO \|\n\|:--------...	null

End of preview. Expand in Data Studio

OAB-Bench

| Paper | Code |

OAB-Bench is a benchmark for evaluating Large Language Models (LLMs) on legal writing tasks, specifically designed for the Brazilian Bar Examination (OAB). The benchmark comprises 105 questions across seven areas of law from recent editions of the exam.

OAB-Bench evaluates LLMs on their ability to write legal documents and answer discursive questions
The benchmark includes comprehensive evaluation guidelines used by human examiners
Results show that frontier models like Claude-3.5 Sonnet can achieve passing grades (≥6.0) in most exams
The evaluation pipeline uses LLMs as automated judges, achieving strong correlation with human scores

Results

Our evaluation of four LLMs on OAB-Bench shows:

Model	Average Score	Passing Rate	Best Area
Claude-3.5 Sonnet	7.93	100%	Constitutional Law (8.43)
GPT-4o	6.87	86%	Civil Law (7.42)
Sabiá-3	6.55	76%	Labor Law (7.17)
Qwen2.5-72B	5.21	24%	Administrative Law (7.00)

The LLM judge (o1) shows strong correlation with human scores when evaluating approved exams, with Mean Absolute Error (MAE) ranging from 0.04 to 0.28 across different law areas.

Citation

If you find this work helpful, please cite our paper:

@inproceedings{pires2025automatic,
  title={Automatic Legal Writing Evaluation of LLMs},
  author={Pires, Ramon and Malaquias Junior, Roseval and Nogueira, Rodrigo},
  booktitle={Proceedings of the International Conference on Artificial Intelligence and Law (ICAIL)},
  year={2025}
}

Downloads last month: 72

Size of downloaded dataset files:

231 kB

Size of the auto-converted Parquet files:

231 kB

Number of rows:

210

Paper for maritaca-ai/oab-bench

Automatic Legal Writing Evaluation of LLMs

Paper • 2504.21202 • Published Apr 29, 2025