Como Usar Inteligência Artificial com Spring Boot e Bancos de Dados Vetoriais

<dependencies>
    <!-- Starter Web -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>

    <!-- Spring AI OpenAI -->
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
    </dependency>

    <!-- Spring AI TypeSense Vector Store -->
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-typesense-store-spring-boot-starter</artifactId>
    </dependency>
</dependencies>

spring:
  application:
    name: demo-spring-ai-vector-database
  ai:
    openai:
      api-key: ${API_KEY}
      chat:
        options:
          model: gpt-3.5-turbo
    vectorstore:
      typesense:
        initialize-schema: true
        collection-name: vector_store
        embedding-dimension: 1536
        client:
          protocol: http
          host: localhost
          port: 8108
          api-key: xyz

docker run --name demo-vector-database \
        -p 8108:8108 -v/tmp:/data \
        typesense/typesense:27.1 \
          --data-dir /data --api-key=xyz

package com.gasparbarancelli.demo_spring_ai_vector_database;

import org.springframework.ai.chat.messages.AssistantMessage;
import org.springframework.ai.chat.messages.UserMessage;
import org.springframework.ai.chat.model.ChatResponse;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.ai.chat.prompt.SystemPromptTemplate;
import org.springframework.ai.document.Document;
import org.springframework.ai.openai.OpenAiChatModel;
import org.springframework.ai.vectorstore.SearchRequest;
import org.springframework.ai.vectorstore.VectorStore;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.util.List;
import java.util.Map;
import java.util.stream.Collectors;

@SpringBootApplication
@RestController
@RequestMapping("/")
public class DemoSpringAiVectorDatabaseApplication {

	private final VectorStore vectorStore;
	private final OpenAiChatModel openAiChatClient;

    public DemoSpringAiVectorDatabaseApplication(VectorStore vectorStore, OpenAiChatModel openAiChatClient) {
        this.vectorStore = vectorStore;
        this.openAiChatClient = openAiChatClient;
    }

    public static void main(String[] args) {
		SpringApplication.run(DemoSpringAiVectorDatabaseApplication.class, args);
	}

	@GetMapping("/add")
	public String addDocuments() {
		var documents = List.of(
				new Document("A felicidade é um bem que se goza às escondidas. Se alguém nos vê, cresce o desejo, mas também cresce a inveja, e o invejoso, na falta de meios para nos destruir a alegria, procura nos mostrar que ela é menor do que pensamos.", Map.of("autor", "Machado de Assis", "titulo", "Memórias Póstumas de Brás Cubas", "anoPublicacao", 1881)),
				new Document("A vida é cheia de obrigações que a gente cumpre por mais vontade que tenha de as infringir. É como andar por um campo de batalha, desviando-se dos tiros para salvar o que se pode, mas sempre ferido no final.", Map.of("autor", "Machado de Assis", "titulo", "Quincas Borba", "anoPublicacao", 1891)),
				new Document("Capitu era dissimulada, capaz de enganar com um sorriso ou com um olhar. Mas quem pode julgar a alma apenas pelas suas aparências? A dúvida é uma sombra que nunca nos abandona completamente.", Map.of("autor", "Machado de Assis", "titulo", "Dom Casmurro", "anoPublicacao", 1899)),
				new Document("Os destinos são como linhas que se cruzam no infinito. Cada um traça seu próprio caminho, mas, às vezes, é o acaso que decide se eles se encontrarão de forma harmoniosa ou conflituosa.", Map.of("autor", "Machado de Assis", "titulo", "Esaú e Jacó", "anoPublicacao", 1904)),
				new Document("A vida, meu caro, não passa de um teatro onde todos representam papéis. Uns são reis, outros palhaços, mas, no final, todos recolhem a máscara e caem no esquecimento do público.", Map.of("autor", "Machado de Assis", "titulo", "Memorial de Aires", "anoPublicacao", 1908)),
				new Document("Há momentos na vida em que a verdade pesa mais que qualquer mentira. O silêncio, por sua vez, é uma espada de dois gumes: pode tanto proteger quanto ferir quem tenta usá-lo.", Map.of("autor", "Machado de Assis", "titulo", "Helena", "anoPublicacao", 1876)),
				new Document("O amor, muitas vezes, não é mais do que uma ilusão que criamos para suavizar a solidão. É uma peça do destino que, mesmo quando nos engana, nos faz acreditar na sua força.", Map.of("autor", "Machado de Assis", "titulo", "Iaiá Garcia", "anoPublicacao", 1878)),
				new Document("O tempo é o senhor de todas as coisas. Ele apaga memórias, cura feridas, mas também arrasta consigo as esperanças, deixando apenas a saudade como prova de que um dia vivemos.", Map.of("autor", "Machado de Assis", "titulo", "Ressurreição", "anoPublicacao", 1872)),
				new Document("O casamento, dizia ele, é como uma dança a dois. Quando os passos se sincronizam, há harmonia; quando não, cada um pisa no pé do outro, e a música se torna um suplício.", Map.of("autor", "Machado de Assis", "titulo", "A Mão e a Luva", "anoPublicacao", 1874)),
				new Document("Simão Bacamarte dizia que a ciência não tem pátria nem fronteiras. No entanto, quando começou a trancar seus concidadãos no hospício, provou que a lógica nem sempre caminha de mãos dadas com a humanidade.", Map.of("autor", "Machado de Assis", "titulo", "O Alienista", "anoPublicacao", 1882)),
				new Document("Iracema era como a natureza selvagem e pura de sua terra natal, cheia de encantos e mistérios. Cada gesto seu parecia entoar uma melodia que falava ao coração de Martim.", Map.of("autor", "José de Alencar", "titulo", "Iracema", "anoPublicacao", 1865)),
				new Document("A voz do sertanejo é o canto da liberdade. É o hino do campo, onde o homem é senhor apenas de si mesmo e vive em harmonia com a natureza ao seu redor.", Map.of("autor", "José de Alencar", "titulo", "O Sertanejo", "anoPublicacao", 1875)),
				new Document("A cidade parecia adormecida sob o calor do meio-dia, mas o coração de Lucíola estava em chamas. Ela buscava redenção em cada palavra de Paulo, mas sabia que o amor muitas vezes era uma estrada sem volta.", Map.of("autor", "José de Alencar", "titulo", "Lucíola", "anoPublicacao", 1862)),
				new Document("O Guarani não era apenas uma história de amor entre Peri e Ceci, mas também um retrato de duas culturas tentando coexistir em um mundo em constante transformação.", Map.of("autor", "José de Alencar", "titulo", "O Guarani", "anoPublicacao", 1857)),
				new Document("O tempo passa como as águas de um rio, e o amor que nasce no coração de Lúcia não é diferente. Ele cresce como uma planta, encontrando solo fértil mesmo em meio às dificuldades.", Map.of("autor", "José de Alencar", "titulo", "Diva", "anoPublicacao", 1864))
		);

		vectorStore.add(documents);
		return "Documentos adicionados";
	}

	@GetMapping("chat")
	public String chat(@RequestParam("message") String message) {
		Prompt prompt = getPrompt(message);
		ChatResponse chatResponse = openAiChatClient.call(prompt);
		return chatResponse.getResults().stream()
				.map(generation -> generation.getOutput().getContent())
				.collect(Collectors.joining("/n"));
	}

	private Prompt getPrompt(String message) {
		String systemMessage = """
            Você é um bibliotecário e deve usar informações de documentos selecionados para fornecer uma resposta assertiva aos usuários.

			Quando você encontrar uma resposta válida nos documentos com base num possivel trecho do livro que o usuário digitar, deve retornar as seguintes informações: autor, título, ano de publicação e uma frase do livro.

			As informações devem ser retornadas no formato JSON, conforme o exemplo abaixo:

            \\{
            	"autor": string,
            	"titulo": string,
            	"anoPublicacao": number,
            	"frase": string
            \\}

            Regras:

            Se houver um documento relevante:
            Retorne os dados completos no formato especificado.

            Caso nenhum documento forneça informações suficientes ou nenhum documento seja relevante:
            Retorne uma mensagem indicando que você não sabe, como no exemplo abaixo:

            \\{
			 	"mensagem": string
			\\}

            Documentos:
            {documents}
        """;

		var documents = searchDocuments(message);

		var systemTemplate = new SystemPromptTemplate(systemMessage).createMessage(Map.of("documents", documents));

		var testUserMessage = new UserMessage("quem pode julgar a alma");
		var assistantMessage = new AssistantMessage("""
                {
					"autor": "Machado de Assis",
					"titulo": "Dom Casmurro",
					"anoPublicacao": 1899,
					"frase": "Capitu era dissimulada, capaz de enganar com um sorriso ou com um olhar. Mas quem pode julgar a alma apenas pelas suas aparências? A dúvida é uma sombra que nunca nos abandona completamente."
				 }
        """);


		UserMessage userMessage = new UserMessage(message);
		return new Prompt(List.of(systemTemplate, testUserMessage, assistantMessage, userMessage));
	}

	public String searchDocuments(@RequestParam("query") String query) {
		return vectorStore.similaritySearch(SearchRequest.defaults().withQuery(query).withTopK(5))
				.stream()
				.map(document -> {
					var metadata = document.getMetadata();

					return String.format(
							"Autor: %s, título: %s, ano publicação: %d, frase: %s",
							metadata.get("autor"),
							metadata.get("titulo"),
							(Integer) metadata.get("anoPublicacao"),
							document.getContent());
				})
				.collect(Collectors.joining(System.lineSeparator()));
	}

}

curl -X GET "http://localhost:8080/add"

Documentos adicionados

curl -X GET "http://localhost:8080/chat?message=uns%20sao%20reis%20outros%20palhacos"

{
  "autor": "Machado de Assis",
  "titulo": "Memorial de Aires",
  "anoPublicacao": 1908,
  "frase": "A vida, meu caro, não passa de um teatro onde todos representam papéis. Uns são reis, outros palhaços, mas, no final, todos recolhem a máscara e caem no esquecimento do público."
}

curl -X GET "http://localhost:8080/chat?message=capitu%20era%20dissimulada"

{
  "autor": "Machado de Assis",
  "titulo": "Dom Casmurro",
  "anoPublicacao": 1899,
  "frase": "Capitu era dissimulada, capaz de enganar com um sorriso ou com um olhar. Mas quem pode julgar a alma apenas pelas suas aparências? A dúvida é uma sombra que nunca nos abandona completamente."
}

curl -X GET "http://localhost:8080/chat?message=a%20saudade%20e%20a%20memoria%20do%20coracao"

{
  "mensagem": "Não sei"
}