[Comm] Настройка производительности сервера: скачет loadavg

[Comm] Настройка производительности сервера: скачет loadavg

[Andrey Brindeew]

[-- Attachment #1: Type: text/plain, Size: 1488 bytes --]

Hi!

В моменты больших нагрузок на сервере наблюдается следующая
картина (приводится фрагмент вывода команды vmstat 1):

 6  0  1 174076  55536 127292 414028   24    0    72  3136 2941  1949 80 20  0
 5  0  0 174076  55256 127320 414280   64    0   112  1632 2841  2159 85 14  0
 8  0  1 174076  54824 127364 414676   32    0    48   616 2895  3157 75 25  0
 5 29  2 174076  54988 127376 414752    0    0    48  1960 2737  2044 80 19  1
 5  0  0 174076  53356 127432 415180   96    0   132  1620 2982  2449 81 19  0
 8  0  0 174072  51224 127472 415720   52    0    96     0 3078  2860 72 28  0
 5  0  0 174072  53172 127492 416036    0    0    24  2416 2802  2925 77 22  0

Видно, что иногда резко взлетает количество заблокированных
процессов, при этом сервер как бы останавливается на пару-тройку
секунд (не отвечает на TCP-соединения), что довольно неприятно.

29 - это только пример, я видел цифры, которые доходили до 75-100
заблокированных процессов в секунду.

Вопрос: чем отмониторить источник проблем на машине?
Немного о конфигурации: Dual Xeon 2.40GHz, 2G RAM, Software-RAID1
на контроллере SCSI Adaptec U320.

Машина работает в основном как обратный прокси для MS IIS и как
рассылающий SMTP-сервер (задания на рассылку выплёскиваются
пачками). Общее количество процессов httpd на машине - около
1500, в моменты значительных нагрузок - до 5000.

-- 
WBR, Andrey Brindeew.
"No one person can understand Perl culture completely"
(C) Larry Wall.

[-- Attachment #2: Type: application/pgp-signature, Size: 245 bytes --]

Re: [Comm] Настройка производительности сервера: скачет loadavg

[serge]

Добрый день!
Столкнулся с такой же проблемой на 2CPU Xeon RAID5 3*36Gb при копировании
больших файлов (600Mb) подскакивает число procs:b (vmstat) до 10-12  и
время отклика по сети резко увеличивается. Tuning на elvtune подстройкой
-r и -w под размер страйпа?
 
	Всего наилучшего,		
		Сергей Александрович Яценко

mailto: 	serge@ispr.nsk.su		

[Comm] Re: Настройка производительности сервера: скачет loadavg

[Michael Shigorin]

On Fri, Sep 03, 2004 at 01:16:35PM +0700, serge@ispr.nsk.su wrote:
> Столкнулся с такой же проблемой на 2CPU Xeon RAID5 3*36Gb при
> копировании больших файлов (600Mb) подскакивает число procs:b
> (vmstat) до 10-12  и время отклика по сети резко увеличивается.
> Tuning на elvtune подстройкой -r и -w под размер страйпа?

Там еще что-то было с RAID5 -- внимательно посмотрите в лог и
назовите файловую систему (дело как-то соотносилось с журналом).

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Comm] Re: Настройка производительности сервера: скачет loadavg

[serge]

On Fri, Sep 03, 2004 at 10:09:15AM +0300, Michael Shigorin wrote:
> Там еще что-то было с RAID5 -- внимательно посмотрите в лог и
> назовите файловую систему (дело как-то соотносилось с журналом).
> 
Файловая система xfs, журнал internal.

Часть  лога:

Sep  3 12:49:59 grays smbd[23291]:   getpeername failed. Error was Transport endpoint is not con nected
Sep  3 12:49:59 grays smbd[23291]: [2004/09/03 12:49:59, 0] lib/access.c:check_access(333)
Sep  3 12:49:59 grays smbd[23291]: [2004/09/03 12:49:59, 0] lib/util_sock.c:get_socket_addr(1012)
Sep  3 12:49:59 grays smbd[23291]:   getpeername failed. Error was Transport endpoint is not con nected
Sep  3 12:49:59 grays smbd[23291]:   Denied connection from  (0.0.0.0)
Sep  3 12:49:59 grays smbd[23291]: [2004/09/03 12:49:59, 0] lib/util_sock.c:write_socket_data(49 9)
Sep  3 12:49:59 grays smbd[23291]:   write_socket_data: write failure.  Error = Connection reset by peer
Sep  3 12:49:59 grays smbd[23291]: [2004/09/03 12:49:59, 0] lib/util_sock.c:write_socket(524)
Sep  3 12:49:59 grays smbd[23291]:   write_socket: Error writing 5 bytes to socket 13: ERRNO = C
onnection reset by peer
Sep  3 12:49:59 grays smbd[23291]: [2004/09/03 12:49:59, 0] lib/util_sock.c:send_smb(704)
Sep  3 12:49:59 grays smbd[23291]:   Error writing 5 bytes to client. -1.  (Connection reset by p
eer)


	Всего наилучшего,		
		Сергей Александрович Яценко

mailto: 	serge@ispr.nsk.su		

[Comm] [JT] Re: Настройка производительности сервера: скачет loadavg

[Michael Shigorin]

On Fri, Sep 03, 2004 at 03:03:01PM +0700, serge@ispr.nsk.su wrote:
> > Там еще что-то было с RAID5 -- внимательно посмотрите в лог и
> > назовите файловую систему (дело как-то соотносилось с журналом).
> Файловая система xfs, журнал internal.

Не -- ругался то ли md, то ли что-то еще на misalign'ы или еще
что... вот же напасть, не помню ключслов :-(

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/