Hola, que tipo de servicio es? si es un servicio web lo ideal es pasar algún escaner de los que lleva Kali para empezar
En paralelo, tienes manuales de scanning en nuestra sección de documentación.

En Kali tienes varios, ve probando , ya sea de vulnerabilidades en general como Nikto... o de webapps como Skipfish o Wpscan