Hola Julio,
El engine es la librería Flash que permite sacarle provecho a la tecnología Stage3D entre otras cosas. Flare Studio, por otro lado, es una aplicación utilitaria, complementaria al engine, que sirve para ajustar escenas 3d, configurar texturas y materiales y cosas por el estilo.
Para tu proyecto, sea cual sea, necesitarás el engine cuando menos. Studio probablemente pueda ayudarte con ciertas tareas, pero no es imprescindible.
Saludos!