Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Tue, Aug 14, 2007 at 11:25:19PM +0400, Maks Re wrote:
> хотел собрать шаблон, напримере ve-imap
> уходя с работы (около 19-30) я запустил сборку...
> ща проверил (прошло около 4 часов) - все еще собирает...

При этом система нагружена и что-то дисками лопатит?

> это сильная бага чего??????

Да iosched будто.  Но вообще лучше кусочек top посмотреть.

> помню тред:
> http://lists.altlinux.ru/pipermail/sisyphus/2007-July/101321.html

Угу.

> там все было похожее...  и железо, и задача...  сошлось на то
> что надо echo anticipatory >  /sys/block/sda/queue/scheduler
> выставить...
> 
> не сильно то это и помогло... совсем не сильно...

Гм.  Тогда не наблюдал, а именно на ML G3 (правда, с SAS RAID)
и строил всякого-разного недавно под x86_64.

> ЗЫ: фс находится на /dev/md1 (/) & /dev/md2 (/var/lib/vz)
> apt настроен работать через прокси
> оба масива синхронизированы.
> 
> вообщем каких мыслей скажут благородные доны?

Нагружен процессор или диски? (vmstat 1)

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Tue, Aug 14, 2007 at 11:25:19PM +0400, Maks Re wrote:
> ща проверил (прошло около 4 часов) - все еще собирает...

PS: ну 5--15 минут, но даже не час.

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 11:04:23AM +0400, Maks Re wrote:
> вы будете смеятся...  но за 14 часов результата нет, гыыы

Гы.

> top, vmstat, ps axfuww приведены ниже
> я только не понял, почему apt-get кушает cpu столько...

strace -ff -p 10575
?

> $ top
> top - 10:59:01 up 6 days,  9:33,  2 users,  load average: 1.01, 1.02, 1.00
> Tasks: 145 total,   4 running, 141 sleeping,   0 stopped,   0 zombie
> CPU0  : 33.3% us, 65.7% sy,  0.0% ni,  1.0% id,  0.0% wa,  0.0% hi,  0.0% si

1/2 user/system -- это нелады с I/O.  Можно подробнее про
контроллер (или это тот же AHCI на 5000?) и диски (SATA?)...

>   PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
> 10575 _vebuild  25   0 53844  12M 9424 R 99.7  0.6 840:09.14 apt-get
> 
> $ vmstat 1
> procs -----------memory---------- ---swap-- -----io---- --system-- ----cpu----
>  r  b   swpd   free   buff  cache   si   so    bi    bo   in    cs us sy id wa
>  1  0     88 1317792 192764 382496    0    0     2    25   13    20  2  3 95  0
>  1  0     88 1317792 192764 382496    0    0     0     0  255    12 19 31 50  0
>  1  0     88 1317792 192772 382488    0    0     0    40  266    41 17 33 50  0
>  1  0     88 1317792 192772 382488    0    0     0     0  252    12 15 35 50  0
>  1  0     88 1317792 192772 382496    0    0     0    12  253    16 16 34 50  0
>  2  0     88 1317628 192772 382496    0    0     0   124  305   544 26 36 38  0
>  1  0     88 1317628 192772 382496    0    0     0     0  252    10 17 33 50  0
>  1  0     88 1317752 192772 382496    0    0     0     0  253     9 19 31 50  0
>  1  0     88 1317752 192772 382496    0    0     0    52  276    24 19 31 50  0
>  1  0     88 1317752 192772 382496    0    0     0     0  254    11 17 33 50  0

Происходит только запись и *очень* медленно.

Другие ioscheduler'ы не пробовали? (там их три основных было)

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 11:38:46AM +0400, Maks Re wrote:
> контролер набортный, это тот же AHCI на 5000 платформе...
> два диска sata (/dev/sda & /dev/sdb)   Model: ST3250620NS
>   Type:   Direct-Access                      ANSI SCSI revision: 05

Если есть возможность -- лучше попробовать другие (хотя бы один).

Я обжигался на ST3200827AS (Barracuda 7200.9), Дима Левин --
на ST3750640NS.

Можно ещё загрузиться с livecd и побегать по отдельным дискам
badblocks -vw

> $ cat /sys/block/sda/queue/scheduler
> noop [anticipatory] deadline cfq

Кажется, deadline в итоге оставил на одной из нагруженных систем.

> cgf который по умолчанию, так там ваще.... заметные тормоза
> мыли на глаз, сидишь в ssh сессии, и видно, в какой-то момент
> системы замирает... т.е.  удаленая стороно не отвечает в
> ссесию... в это время делаешь новую ссесию - тоже все глухо...
> а пинги ходят на ура. (т.е. ядро и сетевая подсистема видимо
> реагируют. а то что надо с дисковой подсситемы получить .....)
> какие еще шедулеры можно безбоязно попробовать?

Вот точно не помню, но кажется, с anticipatory как раз проблемы 
и наблюдались.  Проснуться бы.....

> а по какие криетриям видно, что запись происходит
> ооооччччееенннььь медлено?

Огромный процент system на CPU и никакие циферки в bo (block out)
по vmstat (bi -- чтение с дисков, bo -- запись на них; килобайты 
за отрезок времени, при vmstat 1 -- в секунду).

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 12:16:11PM +0400, Maks Re wrote:
> > > контролер набортный, это тот же AHCI на 5000 платформе...
> > > два диска sata (/dev/sda & /dev/sdb)   Model: ST3250620NS
> > >   Type:   Direct-Access                      ANSI SCSI revision: 05
> > Если есть возможность -- лучше попробовать другие (хотя бы один).
> екту пока других винтов... хотя это и серия 7200.10
> из других - тока ST3750640NS, которые пойдут позже под файлпомойку
                   ^^^^^^^^^^^
Ну Диму я тоже предупреждал.  Там ссыпались под тестами два из
четырёх.  Берём WD/Hitachi, сейчас Seagate "плохие" выходят :(

> > Я обжигался на ST3200827AS (Barracuda 7200.9), Дима Левин --
      ^^^^^^^^^
> > на ST3750640NS.
       ^^^^^^^^^^^
> > Можно ещё загрузиться с livecd и побегать по отдельным дискам
> > badblocks -vw
> думаете что могут имется? кажется "badblocks -vw " может
> разрушить фс? разве нет?

Виноват!  -w -- это разрушающий тест, если хочется надеяться 
на живость дисков -- лучше -n.  Надо заглядывать в ман при таких
советах :(

Я могу сейчас в тот ML воткнуть WD SATA 80G и поиграться в сборку
VE, но практически даю зуб, что всё будет пучком.

> > $ cat /sys/block/sda/queue/scheduler
> > > noop [anticipatory] deadline cfq
> > Кажется, deadline в итоге оставил на одной из нагруженных систем.
> попробовал все 4 варианта, картинка в vmstat не изменилась... :(

IMHO это всё-таки диски...

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 12:34:58PM +0400, Maks Re wrote:
> > IMHO это всё-таки диски...
> т.е. новое ядро. которое есть  в сизифе и в бранче alt15  тоже
> может не помочь? (сейчас alt14)

Боюсь, нет, хотя лучше проверить на всякий.

> блин, а я всегда брал сигейты, и думал что с ними траблов
> нету...  хорошо что хоть на новый сервак я взял sas hitachi
> на внешнем raid контроллере.

Дык с разными дисками разных типов в разные времена разные проблемы
с одинаковым, как правило, исходом.  Не получается полагаться на
какого-то конкретного поставщика и всё :(

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Sergey]

On Wednesday 15 August 2007, Michael Shigorin wrote:

> > екту пока других винтов... хотя это и серия 7200.10
> > из других - тока ST3750640NS, которые пойдут позже под файлпомойку
>                    ^^^^^^^^^^^
> Ну Диму я тоже предупреждал.  Там ссыпались под тестами два из
> четырёх.  Берём WD/Hitachi, сейчас Seagate "плохие" выходят :(

А у нас таки Seagate везде стоят...

-- 
С уважением, Сергей
a_s_y@sama.ru

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 02:29:34PM +0500, Sergey wrote:
> > > екту пока других винтов... хотя это и серия 7200.10
> > > из других - тока ST3750640NS, которые пойдут позже под файлпомойку
> >                    ^^^^^^^^^^^
> > Ну Диму я тоже предупреждал.  Там ссыпались под тестами два из
> > четырёх.  Берём WD/Hitachi, сейчас Seagate "плохие" выходят :(
> А у нас таки Seagate везде стоят...

На их идешки от 60 до 200 включительно у меня нареканий нет...
Как и на сказики.

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Sergey]

On Wednesday 15 August 2007, Maks Re wrote:

> помню тред:  http://lists.altlinux.ru/pipermail/sisyphus/2007-July/101321.html
> там все было похожее...  и железо, и задача...
> сошлось на то что надо 
> echo anticipatory >  /sys/block/sda/queue/scheduler 
> выставить... 
 
Вообще, я ядро обновил в конечном итоге c 
rpm ftp://ftp.altlinux.ru/pub/people/lakostis/kernel-ovz x86_64 hasher
до
Linux vsrv1.kraft-s.net 2.6.18-ovz-smp-alt14.9 #1 SMP Sat Jul 7 00:18:03 MSD 2007 x86_64 GNU/Linux

Сейчас, я так понимаю, оно уже в Сизифе, как alt15.


-- 
С уважением, Сергей
a_s_y@sama.ru

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 12:18:01PM +0400, Maks Re wrote:
> и как можно ли безболезнено приккрутить ядро alt15 в сервер
> 4.0.1? или ждать бекпорта?

Взять и обновить, ядро можно и из Sisyphus.

Подозреваю, что в бранче эта сборка тоже появится.

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 01:33:52PM +0400, Maks Re wrote:
> установил ядро из бранча.  не уверен что это помогло
> после ребута, я снова запустил сборку шаблона.  состояние:
> $ vmstat 1
> procs -----------memory---------- ---swap-- -----io---- --system-- ----cpu----
>  r  b   swpd   free   buff  cache   si   so    bi    bo   in    cs us sy id wa
>  0  0      0 1708204  18620 220244    0    0    38    57  145    59  1  1 97  2
>  0  0      0 1708204  18620 220244    0    0     0     0  258    17  0  0 100  0
>  0  0      0 1708204  18620 220244    0    0     0     0  253    20  0  0 100  0

IMHO это "ничего не происходит".

> $ top
> CPU0  :  0.0% us,  0.0% sy,  0.0% ni, 100.0% id,  0.0% wa,  0.0% hi,  0.0%si
> CPU1  :  0.0% us,  0.3% sy,  0.0% ni, 99.0% id,  0.7% wa,  0.0% hi,  0.0% si

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Pavlov Konstantin]

[-- Attachment #1: Type: text/plain, Size: 368 bytes --]

On Wed, Aug 15, 2007 at 02:43:36PM +0400, Maks Re wrote:
> >
> >
> > IMHO это "ничего не происходит".
> 
> 
> это видно, что ничего не происходит...
> 
> вот и вапрос... "что там на улице, Берримор" ? (с)
> 
> 

В sources.list(.d/*) что? Может, он компакт-диск хочет или там ftp
недоступный какой.


-- 
Как там с качеством кода?
		-- ldv in devel@

[-- Attachment #2: Digital signature --]
[-- Type: application/pgp-signature, Size: 189 bytes --]

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 02:43:36PM +0400, Maks Re wrote:
> > IMHO это "ничего не происходит".
> это видно, что ничего не происходит...
> вот и вапрос... "что там на улице, Берримор" ? (с)

Макс, я тут только позавчера последний раз наступил на непонятки,
а виноват был битый диск (IBM 20G на стенде).

Очень сильно рекомендую не париться, а поискать пару дисков хотя 
бы временно -- проверить гипотезу.

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Michael Shigorin]

On Wed, Aug 15, 2007 at 04:49:06PM +0400, Maks Re wrote:
> > Очень сильно рекомендую не париться, а поискать пару дисков
> > хотя бы временно -- проверить гипотезу.
> ну диски у меня отсутствуют... есть только один, и тот сигейт ,
> но уже всего 160Г (серия 7200.10)
> и который стоит в ПК на "стенде"... его наду будет полюбому
> вернуть.  вапрос - как имено просстестировать?

Я бы проверил хотя бы на этом.

> у меня в сеерваке два диска...  и собрано два рейд1 масива.

Или как на degraded raid, или на тупой установке без md
(поскольку дело явно не в нём).

> я так соображаю - что надо выключить, вынуть один 250Г,
> вставить на его место тестируемый 160Г и попробовать
> пересобрать массив, и потом уже разрушить массив путем
> извлечения оставшегося диска в 250Г,
> так верно?

Я бы выкинул оба 250, воткнул этот 160, быренько влил Server, 
попробовал собрать VE и сделал выводы или о дисках, или о
настойчивом советчике в неправильном направлении.

> сервак должен уже пахать, а меня все еще тесты не пройдены
> оказывается...

Лучше пусть вылезет на тестах, чем потом выводить из
эксплуатации...

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [Sysadmins] ALS 4 x86_64. создание нового шаблона ovz: сколько по времени он должен собираться?

[Sergey]

On Wednesday 15 August 2007, Maks Re wrote:

> > Вообще, я ядро обновил в конечном итоге c
> > rpm ftp://ftp.altlinux.ru/pub/people/lakostis/kernel-ovz x86_64 hasher
> > до
> > Linux vsrv1.kraft-s.net 2.6.18-ovz-smp-alt14.9 #1 SMP Sat Jul 7 00:18:03
> > MSD 2007 x86_64 GNU/Linux
> >
> > Сейчас, я так понимаю, оно уже в Сизифе, как alt15.
> 
> это помогло в данной трабле?

Это помогло вот в этом:
https://bugzilla.altlinux.org/show_bug.cgi?id=12298

Шаблонов я не делал, честно говоря.

-- 
С уважением, Сергей
a_s_y@sama.ru