Foros-FIUBA Foros HostingPortal
 FAQ  •  Buscar  •  Wiki  •  Apuntes  •  Planet  •  Mapa  •  Eyeon  •  Chat
Preferencias  •  Grupos de Usuarios
Registrarse  •  Perfil  •  Entrá para ver tus mensajes privados  •  Login
Ver tema siguiente
Ver tema anterior

Responder al tema Ver tema anteriorEnviar por mail a un amigo.Mostrar una Lista de los Usuarios que vieron este TemaGuardar este Tema como un archivoPrintable versionEntrá para ver tus mensajes privadosVer tema siguiente
Autor Mensaje
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Jue Feb 28, 2008 8:24 pm  Asunto:  Saturación del servidor. Responder citandoFin de la PáginaVolver arriba

Hola, gente;

(En fin, redacto de nuevo el mensaje que estaba redactando a las 15:50, medio minuto antes de dar de baja el sitio y 10 minutos antes de entrar a rendir un final...)

Lo que les comentaba era lo siguiente... como inscripción tras inscripción el sitio está saturadísimo. En realidad más que de costumbre, porque estas últimas semanas no bajamos de las 2200 visitas diarias, lo cual es un record.

La diferencia fundamental en la que estamos en esta última (y la anterior también) inscripción con respecto a otros años es que ahora el hosting no es una computadora tirada en mi casa que sólo sirve al foro sino que estamos en un servidor más grande que nos prestan de buen grado. En estos últimos días el foro comió tanto del servidor que lo tiró abajo varias veces.

Llevo 3 días monitoreando los recursos ininterrumpidamente y buscándole la vuelta al foro para evitar que voltee al resto del servidor, y al caudal de tráfico que se está manteniendo en estos días es practicamente imposible. Intenté mantener a raya los servicios en momento de saturación como fuera posible e intentando mantener en pie a un servidor que no está cómodo para darle un reset si se freezea por completo.

Por eso, hoy, cuando el método agresivo de control que venía ensayando desde la mañana (el cual demostró no matar al servidor, al menos) rompió la coherencia de la base de datos; la decisión inmediata fue el dar de baja el foro hasta poder limitar de manera más drástica el uso de recursos.

En el contexto de hosting de calidad en el que estamos ahora, que nos viene de favor, y prácticamente en un server dedicado; no puedo menos que anteponer la estabilidad del servidor a la estabilidad del foro.

Es por eso que limité la cantidad de conexiones concurrentes al motor de base de datos, a un número que voy a ir evaluando en estos días, para evitar que vuelvan a caer otros 30 sitios que no tienen nada que ver con este por culpa de lo desmedido de recursos que exige nuestro foro para funcionar.

Como siempre, les hago el mismo pedido que cada inscripción, o cada vez que sucede un hecho que moviliza a la gente a entrar al foro:

Intenten cuidar ustedes mismos el servicio. Aflojen con el posteo innecesario. Aflojen con el reload permanente. Aflojen con vivir enchufados. Eviten las horas picos. Si ven que en un horario está muy saturado, vuelvan en otro. Hagan un uso moderado del servicio para que el mismo pueda estar disponible para los demás que en este momento lo precisan.

Saludos;
Sebastián Santisi
Como el Staff.


Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
juanpr
Nivel 4


Edad: 37
Registrado: 25 Feb 2007
Mensajes: 74

Carrera: Informática
argentina.gif
MensajePublicado: Jue Feb 28, 2008 10:29 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Tremendo, podrias decir cuales son los dias y las horas pico en donde hay mayor numero de conexiones?

Salu2.


Piscis Género:Masculino Gato OfflineGalería Personal de juanprVer perfil de usuarioEnviar mensaje privadoMSN Messenger
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Sab Mar 01, 2008 4:26 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Esto se tergiversa un poco durante la semana de inscripción; pero así fue el último mes:

Image

_________________
Image[tex] ${. \ \ \ \ \ \ \ \ \ .}$ [/tex][tex] ${\Large Usá \LaTeX, no seas foro...}$ [/tex]

Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
Oso
Nivel 9


Edad: 37
Registrado: 01 Mar 2007
Mensajes: 2716
Ubicación: San Isidro
Carrera: Industrial
germany.gif
MensajePublicado: Sab Mar 01, 2008 6:03 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

SS ¿Qué significan los colores de las barras? Yo interpreto mañana, tarde y noche. ¿Es así o mandé fruta?

_________________
Image

[tex]\int Oso + 10\ dt...[/tex]

Tauro Género:Masculino Tigre OfflineGalería Personal de OsoVer perfil de usuarioEnviar mensaje privadoEnviar email
Spike Spiegel
Nivel 9


Edad: 36
Registrado: 10 Ago 2007
Mensajes: 1507

Carrera: Informática
blank.gif
MensajePublicado: Sab Mar 01, 2008 6:13 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Mandaste fruta, pascual. Te está mostrando el tráfico hora por hora, de 0 a 23, así que no puede significar mañana, tarde y noche.

Es mujeres, hombres y George McFly.

_________________
[tex]\mbox{Detrás de todo 'tengo hambre' hay un gran 'comete esta'}[/tex]

Virgo Género:Masculino Gato OfflineGalería Personal de Spike SpiegelVer perfil de usuarioEnviar mensaje privadoEnviar emailVisitar sitio web del usuarioYahoo MessengerMSN Messenger
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Dom Mar 02, 2008 10:43 am  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Es medio irrelevante el color de las barras cuando no hay eje de ordenadas, pero, de todos modos, son cantidad de páginas, cantidad de clicks y cantidad de KBs.

Tomando en cuenta lo uniforme que es el foro; las tres cosas son practicamente intercambiables... el gráfico úsenlo sólo para ver la proporción.

_________________
Image[tex] ${. \ \ \ \ \ \ \ \ \ .}$ [/tex][tex] ${\Large Usá \LaTeX, no seas foro...}$ [/tex]

Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Dom Mar 02, 2008 11:05 am  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Se busca al pelotudo de IP 190.49.96.160 quien aprovechó este preciso instante para meter un crawler a correr en el foro.

Simplemente bannearlo para que el foro dejara de andar para atrás.

190.49.96.160 - - [02/Mar/2008:15:04:55 +0100] "GET /posting.php?mode=reply&t=3420 HTTP/1.1" 200 175 "http://www.foros-fiuba.com.ar/./viewtopic.php?t=3420" "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)"

_________________
Image[tex] ${. \ \ \ \ \ \ \ \ \ .}$ [/tex][tex] ${\Large Usá \LaTeX, no seas foro...}$ [/tex]

Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
Benibo
Nivel 9


Edad: 39
Registrado: 22 Nov 2005
Mensajes: 1922
Ubicación: Villa Crespo
Carrera: Civil
CARRERA.civil.3.jpg
MensajePublicado: Dom Mar 02, 2008 11:54 am  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

¿Qué es un crawler? El único que conozco es Nightcrawler

_________________
En Construccion

Cómo buscar en el Foro - Información para ingresantes

Tauro Género:Masculino Rata OfflineGalería Personal de BeniboVer perfil de usuarioEnviar mensaje privadoEnviar email
JuanC
Nivel 9


Edad: 36
Registrado: 02 Dic 2007
Mensajes: 1292
Ubicación: Quilmes, Bs As.
Carrera: Sistemas
argentina.gif
MensajePublicado: Dom Mar 02, 2008 12:07 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Benibo escribió:
¿Qué es un crawler? El único que conozco es Nightcrawler


Web Crawler - Wikipedia (En Ingles)

Web Crawler - Wikipedia (En Español)

Aparentemente revisa todas las indexaciones de la página, ingresa a ellas y verifica cuales siguen vigentes...
Me imagino que no debe ser algo rápido de hacer (Por más que sea "automático"), y además debe solicitar una página atras de otra (Sin descanso)...

¿Es eso o además de leerlo le erré duro? (Me convertiría en más que estúpido automaticamente) xD

_________________


Image

[tex]\mbox{¿Qué culpa tengo yo de tener la sangre } \mbox{\color{red}{roja}} \mbox{ y el corazón a la }izquierda\mbox{?}[/tex]

[tex]\mbox{Be water... my friend.}[/tex]

[tex]How\mbox{ }do\mbox{ }you\mbox{ }make\mbox{ }a\mbox{ }computer\mbox{ }blink?[/tex]

Aries Género:Masculino Dragón OcultoGalería Personal de JuanCVer perfil de usuarioEnviar mensaje privadoMSN Messenger
Sepilloth
Nivel 8


Edad: 19
Registrado: 12 Dic 2007
Mensajes: 705
Ubicación: Capital
Carrera: Electricista
macadonia.gif
MensajePublicado: Dom Mar 02, 2008 1:35 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Spike Spiegel escribió:
Mandaste fruta, pascual. Te está mostrando el tráfico hora por hora, de 0 a 23, así que no puede significar mañana, tarde y noche.

Es mujeres, hombres y George McFly.


jajaj, muy bueno

estaría bueno que se explicara que es un crawler para los ignorantes como yo que leen el wikipedia y no entienden

voy a empezar a conectarme a la madrugada asi no armo kilombo, perdon por el desvirtue pero tenía que alabar a spike por su húmor


Piscis Género:Masculino Gallo OfflineGalería Personal de SepillothVer perfil de usuarioEnviar mensaje privado
Zeke
Nivel 6



Registrado: 28 Oct 2006
Mensajes: 255
Ubicación: Ptricio
Carrera: Informática
CARRERA.informatica.3.jpg
MensajePublicado: Dom Mar 02, 2008 3:32 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

SebastianSantisi escribió:
Se busca al pelotudo de IP 190.49.96.160 quien aprovechó este preciso instante para meter un crawler a correr en el foro.

Simplemente bannearlo para que el foro dejara de andar para atrás.


Te habras fijado ya, pero la ip es de Speedy y esta siendo usada desde miramar... claro que me estoy finado un rato largo despues y puede haberse entregado a otro cliente de telefonica... igualmente mantienen los rangos de Ip por regiones asi que es posible que el "susodicho" siga de vacaciones en miramar.

Pudiste cruzar la info de algun logueo exitoso a esa IP???

_________________
Image

 Género:Masculino  OfflineGalería Personal de ZekeVer perfil de usuarioEnviar mensaje privadoEnviar email
kinchochan
Nivel 8


Edad: 38
Registrado: 14 Nov 2006
Mensajes: 503
Ubicación: Casi nunca.
Carrera: Electrónica
argentina.gif
MensajePublicado: Dom Mar 02, 2008 10:40 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Che cralwer no es lo que hace google para buscar en las paginas?. Osea es malo eso? Desasnenme como lo hacen simpre.

_________________


Image+chan

Virgo Género:Masculino Bufalo OfflineGalería Personal de kinchochanVer perfil de usuarioEnviar mensaje privado
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Dom Mar 02, 2008 11:33 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Crawlear es bajarse una página inicial, y luego bajarse todos los enlaces que contenía esa página y luego bajarse los enlaces que contenían las siguientes páginas y así. Es lo que hacen todos los motores de búsqueda para armar su base de datos.

En particular, quien sea el que estaba descargándose hoy el sitio lo estaba haciendo con una herramienta que evidentemente descargaba en paralelo las distintas páginas. Esto es, segundo a segundo, al menos estaba descargándose 3 páginas, permanentemente, durante los 10 minutos que lo seguí antes de bannearlo.

Cualquier robot razonable, como por ejemplo el Googlebot, dan aire entre pedido y pedido... es cierto, Google nos está crawleando casi permanentemente; pero descarga como mucho 5 páginas por minuto.

Estar descargando absolutamente todos los enlaces habidos y por haber de un sitio sin parar, es como si hubieran 100 usuarios reales navegando en el servidor, a nivel carga.

Hoy hubo otro robot no común que nos cayó que fue el de IRI... estuvo bajando todo el día, pensé que iba a estar sólo un par de horas, pero a las 22 todavía seguía, si bien bajando no groseramente concurrente. A esa hora decidí que lo mejor iba a ser dejarlo afuera.

¿Cuál es el saldo del que se puso a bajarse el foro completo hoy a la mañana y la gente del proyecto IRI?
Código:
Day            Number of visits    Pages    Hits      Bandwidth
01 Mar 2008    1918                26715    177839    1.74 GB
02 Mar 2008    1958                83225    217110    4.33 GB

Con la misma cantidad de visitas que ayer, se triplicó la carga del foro.

Supongo que lo que se viene a nivel desarrollo es limitar las conexiones de una misma fuente durante un determinado lapso de tiempo.

_________________
Image[tex] ${. \ \ \ \ \ \ \ \ \ .}$ [/tex][tex] ${\Large Usá \LaTeX, no seas foro...}$ [/tex]

Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
Spike Spiegel
Nivel 9


Edad: 36
Registrado: 10 Ago 2007
Mensajes: 1507

Carrera: Informática
blank.gif
MensajePublicado: Vie Ago 20, 2010 3:19 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Sí, hoy estuvo intratable el foro.

¿Qué carajo podrá querer alguien de una inmobiliaria?

Gracias por avisar.

_________________
[tex]\mbox{Detrás de todo 'tengo hambre' hay un gran 'comete esta'}[/tex]

Virgo Género:Masculino Gato OfflineGalería Personal de Spike SpiegelVer perfil de usuarioEnviar mensaje privadoEnviar emailVisitar sitio web del usuarioYahoo MessengerMSN Messenger
Sebastian Santisi
Administrador Técnico


Edad: 42
Registrado: 23 Ago 2005
Mensajes: 17451


argentina.gif
MensajePublicado: Vie Ago 20, 2010 3:21 pm  Asunto:  (Sin Asunto) Responder citandoFin de la PáginaVolver arriba

Si notaron al servidor pesadito hoy, fue por el pelotudo de IP 190.210.79.153 (IPlan) (¿algo que ver con una famosa inmobiliaria?) que lleva una buena punta de horas bajándose toooooooooooodo lo que está enlazado.

Es más, bloqueé la IP hace más de 15 minutos y siguen entrando al menos 2 pedidos por segundo desde ahí.

_________________
Image[tex] ${. \ \ \ \ \ \ \ \ \ .}$ [/tex][tex] ${\Large Usá \LaTeX, no seas foro...}$ [/tex]

Aries Género:Masculino Perro OfflineGalería Personal de Sebastian SantisiVer perfil de usuarioEnviar mensaje privadoVisitar sitio web del usuario
Mostrar mensajes de anteriores:      
Responder al tema Ver tema anteriorEnviar por mail a un amigo.Mostrar una Lista de los Usuarios que vieron este TemaGuardar este Tema como un archivoPrintable versionEntrá para ver tus mensajes privadosVer tema siguiente

Ver tema siguiente
Ver tema anterior
Podés publicar nuevos temas en este foro
No podés responder a temas en este foro
No podés editar tus mensajes en este foro
No podés borrar tus mensajes en este foro
No podés votar en encuestas en este foro
No Podéspostear archivos en este foro
No Podés bajar archivos de este foro


Todas las horas son ART, ARST (GMT - 3, GMT - 2 Horas)
Protected by CBACK CrackerTracker
365 Attacks blocked.

Powered by phpBB2 Plus, phpBB Styles and Kostenloses Forum based on phpBB © 2001/6 phpBB Group :: FI Theme :: Mods y Créditos

Foros-FIUBA está hosteado en Neolo.com Cloud Hosting

[ Tiempo: 0.3518s ][ Pedidos: 20 (0.2737s) ]