Google Cloud опублікував довідкову архітектуру приватного з’єднання для застосувань RAG

Новини ME: повідомлення, 5 квітня (UTC+8). Нещодавно Google Cloud опублікував технічну статтю, у якій представлено приватну довідкову архітектуру, призначену для застосунків генеративного ШІ, що мають можливості генерації з доповненням пошуку (RAG). Ця архітектура підходить для сценаріїв, коли внутрішні системні комунікації мають використовувати приватні IP-адреси та не можуть проходити через публічний інтернет. Її дизайн використовує модель на основі регіонів і містить зовнішню мережу та середовище Google Cloud, яке складається з проєкту маршрутизації, проєкту хостів спільного VPC та трьох проєктів для виділених сервісів. В архітектуру інтегровано ключові сервіси, зокрема Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer та VPC Service Controls. Стаття детально описує три основні маршрути потоків трафіку: потік заповнення даних RAG, потік виведення (inference) та потік керування і маршрутизації, з метою забезпечити підприємствам для робочих навантажень ШІ безпечну й надійну інфраструктуру завдяки наскрізному приватному підключенню та багаторівневому контролю безпеки. (Джерело: InFoQ)