[d-kernel] Новая версия пакeтов std-*

[d-kernel] Новая версия пакeтов std-*

[Михаил Якушин]

Важные изменения:
-Автоматизация сборки. Теперь std-{def,pae,ll,srv} собираются одним 
скриптом. Через некоторое время я его опубликую.
-Все эти подверсии ядер отличаются только значениями HZ таймера, PREEMPT 
и PAE.
	-std-def = NOHZ HZ=250 NOPAE PREEMPT_NONE
	-std-pae = std-def = NOHZ HZ=250 PAE PREEMPT_NONE
	-std-ll =  HZ=1000 PAE PREEMPT
	-std-srv  = HZ=100 PAE PREEMPT_NONE
- В этой версии включён patch от kas который разрешает рекурсию 
скриптов(тоесть можно установить в #! скрипт) глубиной до 4
- включена поддержка сетевой карты alt1e(спасибо stanv@)
- обновлён и возвращён обратно в image e1000
- обновлено ядро до 2.6.25.17

Аналогичные изменение скоро придут в branch/4.1

Re: [d-kernel] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Михаил!

Wednesday 10, at 03:01:10 PM you wrote:

> Konstantin A. Lepikhov wrote:
> > Hi Михаил!
> > 
> > Wednesday 10, at 01:13:05 PM you wrote:
> [skip]
> >> -Все эти подверсии ядер отличаются только значениями HZ таймера, PREEMPT 
> >> и PAE.
> >> 	-std-def = NOHZ HZ=250 NOPAE PREEMPT_NONE
> >> 	-std-pae = std-def = NOHZ HZ=250 PAE PREEMPT_NONE
> >> 	-std-ll =  HZ=1000 PAE PREEMPT
> >> 	-std-srv  = HZ=100 PAE PREEMPT_NONE
> > А rationale этому есть? Особенно HZ=100 в -srv
> Теоретически это должно увеличить эффектиность i/o на серверах.
> Все эти параметры я ещё тестами погоняю. Пока не гонял.
А ты погоняй. Еще лучше почитать теорию. Например, вот эту:
http://kerneltrap.org/node/464

> >> - В этой версии включён patch от kas который разрешает рекурсию 
> >> скриптов(тоесть можно установить в #! скрипт) глубиной до 4
> >> - включена поддержка сетевой карты alt1e(спасибо stanv@)
> > Опять ужос от китайцев. Почему не синхронизировали с RedHat? 
> Это вопрос скорее к stanv@ где он этот пач взял?
> >Почему не
> > сделали отдельный kernel-source?
> Чтобы не плодить сущностей.
> Сам же убеждал меня слить всё в один image.
Что все? Давай тогда и ядро сделаем монолитным. Сущности плодятся для
легких backports и обновления. Раз alt1e нет в апстриме/стороннем git, то
нет смысла его встаскивать в ядро, поскольку в этом случае его все равно
неудобно мержить.

-- 
WBR et al.

Re: [d-kernel] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Михаил!

Wednesday 10, at 04:01:09 PM you wrote:

> yantux yantux wrote:
> >>>>> -Все эти подверсии ядер отличаются только значениями HZ таймера, PREEMPT 
> >>>>> и PAE.
> >>>>> 	-std-def = NOHZ HZ=250 NOPAE PREEMPT_NONE
> >>>>> 	-std-pae = std-def = NOHZ HZ=250 PAE PREEMPT_NONE
> >>>>> 	-std-ll =  HZ=1000 PAE PREEMPT
> >>>>> 	-std-srv  = HZ=100 PAE PREEMPT_NONE
> >>>> А rationale этому есть? Особенно HZ=100 в -srv
> >>> Теоретически это должно увеличить эффектиность i/o на серверах.
> >>> Все эти параметры я ещё тестами погоняю. Пока не гонял.
> >> А ты погоняй. Еще лучше почитать теорию. Например, вот эту:
> >> http://kerneltrap.org/node/464
> > Лучше спросить/опросить практиков, которые гоняют альт на серверах.
> Да, кстати, практики, ау!
> Я вобщем это всё не из головы выдумал.
> Насколько это правильно\нужно\актуально?
неправильно/ненужно/неактуально :) AFAIR HZ=100 нужно только для
ESX/GSX или каких-нить lguest'ов чтобы снизить оверхед на планировщик в
HN.

-- 
WBR et al.

Re: [d-kernel] [sisyphus] Новая версия пакeтов std-*

[Михаил Якушин]

Konstantin A. Lepikhov wrote:
> Hi Михаил!
> 
> Wednesday 10, at 04:01:09 PM you wrote:
> 
>> yantux yantux wrote:
>>>>>>> -Все эти подверсии ядер отличаются только значениями HZ таймера, PREEMPT 
>>>>>>> и PAE.
>>>>>>> 	-std-def = NOHZ HZ=250 NOPAE PREEMPT_NONE
>>>>>>> 	-std-pae = std-def = NOHZ HZ=250 PAE PREEMPT_NONE
>>>>>>> 	-std-ll =  HZ=1000 PAE PREEMPT
>>>>>>> 	-std-srv  = HZ=100 PAE PREEMPT_NONE
>>>>>> А rationale этому есть? Особенно HZ=100 в -srv
>>>>> Теоретически это должно увеличить эффектиность i/o на серверах.
>>>>> Все эти параметры я ещё тестами погоняю. Пока не гонял.
>>>> А ты погоняй. Еще лучше почитать теорию. Например, вот эту:
>>>> http://kerneltrap.org/node/464
>>> Лучше спросить/опросить практиков, которые гоняют альт на серверах.
>> Да, кстати, практики, ау!
>> Я вобщем это всё не из головы выдумал.
>> Насколько это правильно\нужно\актуально?
> неправильно/ненужно/неактуально :) AFAIR HZ=100 нужно только для
> ESX/GSX или каких-нить lguest'ов чтобы снизить оверхед на планировщик в
> HN.
> 

А сколько нужно по твоему?
ESX/GSX это всмысле VmWare ?

Re: [d-kernel] [sisyphus] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Михаил!

Wednesday 10, at 04:09:23 PM you wrote:

<skip>
> > неправильно/ненужно/неактуально :) AFAIR HZ=100 нужно только для
> > ESX/GSX или каких-нить lguest'ов чтобы снизить оверхед на планировщик в
> > HN.
> > 
> 
> А сколько нужно по твоему?
250 минимум.

> ESX/GSX это всмысле VmWare ?
Да.

-- 
WBR et al.

Re: [d-kernel] Новая версия пакeтов std-*

[Michael Shigorin]

On Wed, Sep 10, 2008 at 03:29:36PM +0400, Konstantin A. Lepikhov wrote:
> > >> 	-std-srv  = HZ=100 PAE PREEMPT_NONE
> > > А rationale этому есть? Особенно HZ=100 в -srv
> > Теоретически это должно увеличить эффектиность i/o на серверах.
> > Все эти параметры я ещё тестами погоняю. Пока не гонял.
> А ты погоняй. Еще лучше почитать теорию. Например, вот эту:
> http://kerneltrap.org/node/464

А мож практику вместо статьи, которая скорее протухла с tickless?

Вот во времена 2.6.10--12 под нагруженной многотредовой софтиной
при HZ=1000 всё проседало вдребезги, сборка с HZ=100 отчасти
помогала спасти ситуацию относительно 2.4.9-rhel.

Смутно припоминается, что вешал багу с патчем, сейчас найти не могу
(дело было в 2004--2005).

> > >> - включена поддержка сетевой карты alt1e(спасибо stanv@)
> > > Опять ужос от китайцев. Почему не синхронизировали с RedHat? 
> > Это вопрос скорее к stanv@ где он этот пач взял?
> > >Почему не сделали отдельный kernel-source?
> > Чтобы не плодить сущностей.
> > Сам же убеждал меня слить всё в один image.

Это я, наверное, убеждал -- что сторадж нельзя выносить вообще,
а популярные сетевые карты -- "не стоит" (иначе никакой сетевой
загрузки, в т.ч. установки).

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [d-kernel] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Alexey!

Wednesday 10, at 06:30:47 PM you wrote:

> * Konstantin A. Lepikhov <lakostis@> [080910 18:17]:
> > > При чём тут специфика? Ну повыноси ATA и SCSI модули в отдельные пакеты, а 
> > > потом обновляйся и не забывай генерить initrd после каждого обновления 
> > > РУКАМИ.
> > сказки ты рассказываешь! Я ничего не генерю руками после обновления ядра,
> > при этом все диски у меня живут на sata_sil24, который вынесен в модули
> > вместе со всем scsi. Для таких целей и придуман автоугадав в mkinird.
> Что, прям в kernel-modules-sata_sil24 вынесен?  Который ставится
> после установки соответствующего kernel-image?
В отдельные пакеты выносится всё, чего нет в апстриме, не имеет своего
git'а или пересекается по именам с тем, что уже есть в ядре. Если это
перестает работать, то это проблема не выноса в пакеты, а _подхода_ выноса
в пакеты - т.е. сначала вынесем, а потом подумаем, что это повлечет.
Например, в debian/ubuntu не зря наплодили кучу linux-image, зато можно
либо поставить один linux-image без доп. пакетов, либо ядро с сетевыми
пакетами и без стораджей, либо все скопом. И ничего не отвалится при
обновлении.

-- 
WBR et al.

Re: [d-kernel] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Michael!

Wednesday 10, at 05:01:01 PM you wrote:

> On Wed, Sep 10, 2008 at 03:29:36PM +0400, Konstantin A. Lepikhov wrote:
> > > >> 	-std-srv  = HZ=100 PAE PREEMPT_NONE
> > > > А rationale этому есть? Особенно HZ=100 в -srv
> > > Теоретически это должно увеличить эффектиность i/o на серверах.
> > > Все эти параметры я ещё тестами погоняю. Пока не гонял.
> > А ты погоняй. Еще лучше почитать теорию. Например, вот эту:
> > http://kerneltrap.org/node/464
> 
> А мож практику вместо статьи, которая скорее протухла с tickless?
между прочим tickless не панацея. Во многих серверных flavour'ах NO_HZ
отключают, потому что overhead это все. А вот HPET вместо RTC или MSI
вместо обычного irq routing гораздо интереснее при раскрученных HZ. Как
правильно замечено в статье "The timer interrupt is at the heart of the
system". Т.е. если у нас обращение к таймеру это low cost запрос, то лучше
обращаться к нему чаще. Кстати, в контекте всяких виртуализаций а не тупых
полок с deadline наличие высокоотзывчивых таймеров в HN очень даже нужно.

> 
> Вот во времена 2.6.10--12 под нагруженной многотредовой софтиной
> при HZ=1000 всё проседало вдребезги, сборка с HZ=100 отчасти
> помогала спасти ситуацию относительно 2.4.9-rhel.

> 
> Смутно припоминается, что вешал багу с патчем, сейчас найти не могу
> (дело было в 2004--2005).
щас я тебе тоже дам презентацию 2006 года где на примере 2.4 говорится что
липунс фигня по-сравнению с winxp ;) Каких еще скелетов в шкафу
поворочаем?

> 
> > > >> - включена поддержка сетевой карты alt1e(спасибо stanv@)
> > > > Опять ужос от китайцев. Почему не синхронизировали с RedHat? 
> > > Это вопрос скорее к stanv@ где он этот пач взял?
> > > >Почему не сделали отдельный kernel-source?
> > > Чтобы не плодить сущностей.
> > > Сам же убеждал меня слить всё в один image.
> 
> Это я, наверное, убеждал -- что сторадж нельзя выносить вообще,
> а популярные сетевые карты -- "не стоит" (иначе никакой сетевой
> загрузки, в т.ч. установки).
Нельзя выносить потому что нельзя и потому что не умеем? В последнем
контексте если запатчить package management и mkinird то "не вижу
препятствий". 

-- 
WBR et al.

Re: [d-kernel] Новая версия пакeтов std-*

[Michael Shigorin]

On Thu, Sep 11, 2008 at 01:25:09AM +0400, Konstantin A. Lepikhov wrote:
> Т.е. если у нас обращение к таймеру это low cost запрос, то
> лучше обращаться к нему чаще.

Кгм.  Даже я понимаю, что это щёлканье контекстами и,
следовательно, удар по кэшу.  О каком low cost речь?

> Кстати, в контекте всяких виртуализаций а не тупых полок с
> deadline наличие высокоотзывчивых таймеров в HN очень даже
> нужно.

Это ты так думаешь или кто-то из знающих сказал?
(не наезд, а апелляция к тестам/опыту)

> > Вот во времена 2.6.10--12 под нагруженной многотредовой
> > софтиной при HZ=1000 всё проседало вдребезги, сборка с HZ=100
> > отчасти помогала спасти ситуацию относительно 2.4.9-rhel.
> > Смутно припоминается, что вешал багу с патчем, сейчас найти
> > не могу (дело было в 2004--2005).
> щас я тебе тоже дам презентацию 2006 года где на примере 2.4
> говорится что липунс фигня по-сравнению с winxp ;) Каких еще
> скелетов в шкафу поворочаем?

Это, ты со статьёй 2002 года мог бы скелетов и не упоминать ;)

> > > > Сам же убеждал меня слить всё в один image.
> > Это я, наверное, убеждал -- что сторадж нельзя выносить
> > вообще, а популярные сетевые карты -- "не стоит" (иначе
> > никакой сетевой загрузки, в т.ч. установки).
> Нельзя выносить потому что нельзя и потому что не умеем?

Да, конечно.

> В последнем контексте если запатчить package management и
> mkinird то "не вижу препятствий". 

У нас более простые патчи на mkinitrd годами проходили...
поэтому сперва следует продумать и решить это "если" (над чем
мы с led@ уже думали и не раз), а затем возвращаться к вопросу
порезки ядра (каковой в том же контексте я ещё с nidd@ обсуждал,
когда он рисовал изначальную kernel policy).

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/

Re: [d-kernel] Новая версия пакeтов std-*

[Konstantin A. Lepikhov]

Hi Michael!

Thursday 11, at 11:54:43 AM you wrote:

> On Thu, Sep 11, 2008 at 01:25:09AM +0400, Konstantin A. Lepikhov wrote:
> > Т.е. если у нас обращение к таймеру это low cost запрос, то
> > лучше обращаться к нему чаще.
> 
> Кгм.  Даже я понимаю, что это щёлканье контекстами и,
> следовательно, удар по кэшу.  О каком low cost речь?
См. Documentation/hrtimers/highres.txt:

...
When the timer interrupt happens, the next event interrupt handler is
called from the clock event distribution code and moves expired timers
from the red-black tree to a separate double linked list and invokes the
softirq handler. An additional mode field in the hrtimer structure allows
the system to execute callback functions directly from the next event
interrupt handler.  This is restricted to code which can safely be
executed in the hard interrupt context. This applies, for example, to the
common case of a wakeup function as used by nanosleep. The advantage of
executing the handler in the interrupt context is the avoidance of up to
two context switches - from the interrupted context to the softirq and to
the task which is woken up by the expired timer.

Once a system has switched to high resolution mode, the periodic tick is
switched off. This disables the per system global periodic clock event
device - e.g. the PIT on i386 SMP systems.

Таки получается low cost.

Т.е. для сервера я бы остановился на 250, а для desktop - 1000 (в-прочем,
можно поднять архивы -ck и сделать еще больше).

> 
> > Кстати, в контекте всяких виртуализаций а не тупых полок с
> > deadline наличие высокоотзывчивых таймеров в HN очень даже
> > нужно.
> 
> Это ты так думаешь или кто-то из знающих сказал?
> (не наезд, а апелляция к тестам/опыту)
Это логика - поскольку fairsсhed это гораздо более сложный мозг, чем cfg.

> 
> > > Вот во времена 2.6.10--12 под нагруженной многотредовой
> > > софтиной при HZ=1000 всё проседало вдребезги, сборка с HZ=100
> > > отчасти помогала спасти ситуацию относительно 2.4.9-rhel.
> > > Смутно припоминается, что вешал багу с патчем, сейчас найти
> > > не могу (дело было в 2004--2005).
> > щас я тебе тоже дам презентацию 2006 года где на примере 2.4
> > говорится что липунс фигня по-сравнению с winxp ;) Каких еще
> > скелетов в шкафу поворочаем?
> 
> Это, ты со статьёй 2002 года мог бы скелетов и не упоминать ;)
> 
> > > > > Сам же убеждал меня слить всё в один image.
> > > Это я, наверное, убеждал -- что сторадж нельзя выносить
> > > вообще, а популярные сетевые карты -- "не стоит" (иначе
> > > никакой сетевой загрузки, в т.ч. установки).
> > Нельзя выносить потому что нельзя и потому что не умеем?
> 
> Да, конечно.
> 
> > В последнем контексте если запатчить package management и
> > mkinird то "не вижу препятствий". 
> 
> У нас более простые патчи на mkinitrd годами проходили...
> поэтому сперва следует продумать и решить это "если" (над чем
> мы с led@ уже думали и не раз), а затем возвращаться к вопросу
> порезки ядра (каковой в том же контексте я ещё с nidd@ обсуждал,
> когда он рисовал изначальную kernel policy).
Вы тупите :) Макет как это можно сделать у нас почти готов, осталось
запатчить mkinitrd/rpm и проверить.

-- 
WBR et al.

Re: [d-kernel] Новая версия пакeтов std-*

[Michael Shigorin]

On Thu, Sep 11, 2008 at 04:58:25PM +0400, Konstantin A. Lepikhov wrote:
> Т.е. для сервера я бы остановился на 250, а для desktop - 1000

Ну с этим скорее согласен, хотя надо бы проверить на разных 
по мощности железках (и по-хорошему -- нагрузках).

> > > В последнем контексте если запатчить package management и
> > > mkinird то "не вижу препятствий". 
> > У нас более простые патчи на mkinitrd годами проходили...
> > поэтому сперва следует продумать и решить это "если" (над чем
> > мы с led@ уже думали и не раз), а затем возвращаться к
> > вопросу порезки ядра (каковой в том же контексте я ещё с
> > nidd@ обсуждал, когда он рисовал изначальную kernel policy).
> Вы тупите :) Макет как это можно сделать у нас почти готов,
> осталось запатчить mkinitrd/rpm и проверить.

Сам ты тупишь :)  Говорю же, более простые патчи годами висели.
Но вроде тронулись помаленьку.

-- 
 ---- WBR, Michael Shigorin <mike@altlinux.ru>
  ------ Linux.Kiev http://www.linux.kiev.ua/