Vuelo autónomo de drones basado en "Deep learning" y computación en la nube

Abstract

El objetivo de este proyecto es unificar dos tecnologías en pleno auge como son la computación en la nube y el aprendizaje automático para dotar a un dron multitarea de autonomía de vuelo. De esta manera se podrían automatizar diversas tareas tediosas realizadas por drones, como la vigilancia o muestreo de terrenos, haciendo posible que el dron esquive obstáculos utilizando su cámara frontal.

Para ello, y debido a las limitaciones en el uso de drones reales, se va a utilizar un entorno virtual tanto para entrenar al dron, como para generar planes de vuelos para los distintos entornos que se encontraría nuestro dron real.
Por otra parte, debido al gran coste en tiempo y recursos que supone el entrenamiento del dron, se ha optado por utilizar la computación en la nube para toda la parte de simulación de entornos e inteligencia artificial.

De esta manera, el proyecto va a seguir una estructura cliente-servidor:

Por una parte, el servidor estará situado en una máquina virtual Azure, donde utilizando Unreal Engine 4 y el plugin Airsim se pueden simular entornos y físicas de un dron real. Además, se usarán librerías como OpenAI Gym y Stable-baselines3/Pytorch para dotar al dron de inteligencia artificial. El objetivo final de la parte servidora es dado un entorno simulado y unas coordenadas destino para el dron, se pueda generar un plan de vuelo de manera automática donde se eviten los obstáculos presentes en la simulación y que se pueda utilizar en el entorno real.

Por otro lado, el cliente estará situado en la estación base, encargada de controlar al dron real. Desde esta aplicación se podrán realizar tareas a través de una interfaz gráfica como: Lanzar diversos escenarios de Unreal Engine, scripts de entrenamiento, obtener logs de entrenamiento y por supuesto obtener el plan de vuelo final que se utilizaría en el dron real.

Por último, se realiza un presupuesto detallado para la realización del proyecto y se habla de las conclusiones del trabajo, así como de posibles trabajos futuros para optimizar el funcionamiento de la red neuronal y aplicar el entrenamiento directamente a un dron real con sensores integrados.

Abstract:

The main objective in this project is to unify two of the most rising technologies nowadays like cloud computing and machine learning to give a multipurpose drone flight autonomy. This way we could automate multiple tedious tasks, usually done by drones, like surveillance or land sampling, making it possible for the drone to avoid obstacles using the front camera.

To accomplish it, and due to the problems using real drones, a virtual environment will be used to both train the drone and generate flight plans for the real environments that our real drone will face.

In addition to that, due to high cost in time and resources that training an UAV will take, an Azure virtual machine will be used to simulate the virtual environments and train the drone.

Therefore, the project will have a client-server structure:

On one hand, the server will be located in an Azure VM, where using Unreal Engine 4 and AirSim, we will be able to simulate virtual environments and the drone physics. Besides, multiple reinforcement learning and AI libraries, like OpenAI Gym and Stable-baselines/Pytorch will be used to train the drone. The server’s main goal is, given a virtual environment and a point’s coordinates, to generate a flight plan avoiding obstacles that could be used in a real environment.

On the other hand, the client will be located in a base station, where a real drone will be controlled. From this app we could launch multiple Unreal Engine environments, training scripts, get training logs and, in the end, get the definitive flight plan.

Finally, an estimated budget to make the project will be made and we will talk about the conclusions of this Project and posible future works like optimizing how the neural network performs and some ways to apply the trained network directly to a real drone with sensors.