Ver oferta completa

BOTS DE SCRAPING Y DE PORTALES INMOBILIARIO - FREELANCE JOB IN DATA SCIENCE - WORKANA

Descripción de la oferta de empleo

about this project it-programming / data-science-1 open estamos en búsqueda de un desarrollador experto en scraping para crear dos bots enfocados en extraer datos de dos grandes portales inmobiliarios.
a traves de la app mobile de idealista y a traves de la web de fotocasa, ambos con más de 1 millón de anuncios.
el objetivo es recopilar todos los anuncios disponibles, cumpliendo con las siguientes tareas clave, por un lado un scrapeo inicial de todos los anuncios de ambos portales y por otro lado un bot de altas nuevas, bajas y actualizaciones continuas.
el bot se encargará de extraer continuamente (sin descanso) todos los anuncios nuevos y también detectar cambios de precio, anuncios dados de baja, etc., y realizar un crud completo (crear, actualizar, eliminar) en nuestra base de datos comparando id (referencia del anuncio).
el bot debe añadir los inmuebles con su id.
si al insertar un nuevo elemento, el id ya existe, entonces debe actualizar los datos o ignorar el nuevo registro.
los nuevos anuncios se detectarán comparando los id del registro anterior con los nuevos.
si en el nuevo conjunto hay ids que no aparecen en el anterior, significa que se trata de un nuevo anuncio.
es importante filtrar por los anuncios recientes y rastrear por provincias, una a una.
el bot debe estar funcionando las 24 horas en bucle, rastreando las provincias de manera continua para asegurar una sincronización total con ambos portales.
cada portal tiene más de 1 millón de anuncios, por lo que debemos optimizar el proceso.
idealista tiene protecciones avanzadas (captchas, rate-limiting, códigos dinámicos), por lo que seria necesario hacer ingeniería inversa a la app para obtener la api y los tokens de seguridad, o interceptar las solicitudes con herramientas como frida o burp suite.
fotocasa, por otro lado, es más accesible y el scraping puede hacerse con herramientas tradicionales.
requisitos técnicos.
los bots deben operar de manera continua en nuestro servidor, cubriendo todas las provincias, divisiones geográficas y categorías de ambos portales, de manera ininterrumpida y sin dejarse ninguna anuncio sin scrapear, y se tiene que asegurar que se almacenen todos los datos correctamente en nuestra base de datos.
entorno actual.
actualmente contabamos con 4 bots desarrollados en python y sqlalchemy, que funcionan de forma continua en contenedores docker sobre un servidor linux.
estos bots almacenan los datos scrapeados en una tabla de la base de datos llamada "prop_explorer", que posteriormente se procesa para generar archivos csv, excel y alimentar diferentes tablas del modelo de datos.
estaban trabajando con una pagina inmobiliaria que ya no es accesible.
category it & programming subcategory data science project size medium is this a project or a position? project required availability as needed delivery term.
not specified skills needed web scraping ethical hacking
Ver oferta completa

Detalles de la oferta

Empresa
  • Sin especificar
Localidad
  • En toda España
Dirección
  • Sin especificar - Sin especificar
Tipo de Contrato
  • Sin especificar
Fecha de publicación
  • 12/12/2024
Fecha de expiración
  • 12/03/2025
Asesor Inmobiliario para Madrid
Remax total

Como agente inmobiliario autónomo en re/max total, tendrás la oportunidad de trabajar en un ambiente dinámico y de colaboración, con el apoyo y la formación necesarios para desarrollar tu carrera en el sector inmobiliario... si estás interesado en trabajar como agente inmobiliario autónomo en re/max......

Agente inmobiliario para Madrid.
Remax total

Como agente inmobiliario autónomo en re/max total, tendrás la oportunidad de trabajar en un ambiente dinámico y de colaboración, con el apoyo y la formación necesarios para desarrollar tu carrera en el sector inmobiliario... si estás interesado en trabajar como agente inmobiliario autónomo en re/max......

Agente comercial inmobiliario - Jefe/a de equipo
CENTURY 21 URBAN

Formación y capacitación continua en técnicas de ventas y conocimientos del mercado inmobiliario... requisitos: - experiencia previa en el sector inmobiliario o en ventas es altamente valorada... otros datos del puestosi estás buscando un desafío emocionante en el sector inmobiliario y tienes la pasión......

Agente comercial inmobiliario - jefe/a de equipo
Century 21 urban

Formación y capacitación continua en técnicas de ventas y conocimientos del mercado inmobiliario... requisitos: - experiencia previa en el sector inmobiliario o en ventas es altamente valorada... otros datos del puesto si estás buscando un desafío emocionante en el sector inmobiliario y tienes la pasión......

Re/Max galera Molina Segura centro inmobiliario
RE/MAX GALERA

Las comisiones más altas del sector inmobiliario... no es necesaria experiencia, nosotros te formaremos para que te conviertas en todo un profesional inmobiliario de éxito... te ofrecemos: - la mejor formación del sector inmobiliario a través de nuestra escuela re/max y el sistema de ventas rápidas......

Asesor real estate en zona de lujo - comercial inmobiliario
Century21 R&C

¿te gustaría manejar tus tiempos y tu vida y haciendo crecer tu propio negocio en el mejor centro inmobiliario de pozuelo de alarcón? en century21 r&c; te ofrecemos la oportunidad de convertirte en un asesor comercial inmobiliario profesional y de éxito... si estás leyendo este anuncio de asesor inmobiliario......

Asesor Inmobiliario de Alto Nivel en Madrid y Majadahonda
Re/Max Jumbo

· experiencia en sector comercial / inmobiliario... tenemos el mejor programa de formación dentro del sector inmobiliario 'be jumbo'... elegimos y formamos a los asesores mejor preparados y de mayor rendimiento del sector inmobiliario... seleccionamos asesor inmobiliario de alto nivel para la oficina......

ASESOR INMOBILIARIO COMPAÑIA Nº1 DEL MUNDO
REMAX OLID

Asesores inmobiliarios en los 5 continentes llevamos mas de 40 años desarrollando personas para que lleguen a lo mas alto de la profesion inmobiliaria no es necesaria experiencia, nosotros te formamos para que te conviertas en un profesional inmobiliario de exito... · la mejor formación y capacitación......

Comercial inmobiliario /a
Lhorta Sud Asesores SL

¡l´horta sud asesores busca a los mejores talentos para unirse a nuestro equipo como agentes inmobiliarios! con más de 10 años de experiencia gestionando el patrimonio inmobiliario y financiero de nuestros clientes en valencia, nos hemos consolidado como un referente en el mercado......

Agente inmobiliario asociado
Re/max liberty

La mejor formación del sector inmobiliario a través de nuestra escuela re/max... re/max liberty busca agentes inmobiliarios en tarragonare/max liberty busca comerciales que quieran emprender y desarrollar una carrera profesional en el sector inmobiliario en tarragonate ofrecemos:las comisiones más altas......