[devel] fsck, большие разделы и swap

[devel] fsck, большие разделы и swap

[Sergey Y. Afonin]

Приветствую.

Наверное, достойно бага на какой-то пакет (make-initrd ?):
https://forum.altlinux.org/index.php?topic=40449.0

В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше 2Гб
и единственном разделе на почти 1Тб (разметка по-умолчанию) для fsck
просто не хватило памяти - его oomkiller прибил.

Вопрос: а почему swap активируется после проверок fsck ? Смысла так
делать не видно. Надо бы до.

-- 
С уважением, Сергей Афонин

Re: [devel] fsck, большие разделы и swap

[Vladimir D. Seleznev]

On Tue, Nov 14, 2017 at 11:57:02PM +0400, Sergey Y. Afonin wrote:
> Приветствую.
> 
> Наверное, достойно бага на какой-то пакет (make-initrd ?):
> https://forum.altlinux.org/index.php?topic=40449.0
> 
> В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше 2Гб
> и единственном разделе на почти 1Тб (разметка по-умолчанию) для fsck
> просто не хватило памяти - его oomkiller прибил.
> 
> Вопрос: а почему swap активируется после проверок fsck ? Смысла так
> делать не видно. Надо бы до.

Я не уверен, что это связано, но бывает, что swap — это файл, лежащий на
ФС, на которой идёт проверка. В этом случает его нельзя активировать.

-- 
   С уважением,
   Владимир Селезнев

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

Добрый вечер!


15.11.2017 21:17, Vladimir D. Seleznev пишет:
> On Tue, Nov 14, 2017 at 11:57:02PM +0400, Sergey Y. Afonin wrote:
>> Наверное, достойно бага на какой-то пакет (make-initrd ?):
>> https://forum.altlinux.org/index.php?topic=40449.0

Не достойно!

>> В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше 2Гб
>> и единственном разделе на почти 1Тб (разметка по-умолчанию) для fsck
>> просто не хватило памяти - его oomkiller прибил.
>>
>> Вопрос: а почему swap активируется после проверок fsck ? Смысла так
>> делать не видно. Надо бы до.
> Я не уверен, что это связано, но бывает, что swap — это файл, лежащий на
> ФС, на которой идёт проверка. В этом случает его нельзя активировать.

Есть много причин, по которой SWAP подключается, как минимум, после 
корневого раздела и это, как правило, нет смысла делать на этапе initrd, 
если только речь не идёт о crypto-swap. А здесь у человека вообще нет 
SWAP-раздела, весь диск -- единственный корневой раздел. Ненормально 
другое: что на машине с 2Гб ОЗУ не хватает памяти для fsck. Причём, я 
даже не уверен, что это была бага fsck.

Лично для себя много лет, как успешно перешёл на JFS. Помимо того, что 
она изначально 64-битная и работает не медленнее ext4, она потребляет 
меньше ресурсов, мгновенно создаёт разделы и очень быстро 
восстанавливается после сбоев. Единственное, нет поддержки ядерных квот, 
но в большинстве случаев для корневого раздела они и не требуются. В 
плане надёжности -- использовал и в полевых условиях и на боевых 
серверах, проверено годами. Тем паче, эта ФС родом из AIX'а, а уж на 
надёжность IBM'овских серверов вряд ли кто пожалуется.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Alexey V. Vissarionov]

[-- Attachment #1: Type: text/plain, Size: 698 bytes --]

On 2017-11-14 23:57:02 +0400, Sergey Y. Afonin wrote:

 > В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше
 > 2Гб и единственном разделе на почти 1Тб (разметка по-умолчанию)
 > для fsck просто не хватило памяти - его oomkiller прибил.

А много ли на диске больших файлов?

 > Вопрос: а почему swap активируется после проверок fsck ? Смысла
 > так делать не видно. Надо бы до.

Не надо - для проверки ФС на массиве объемом 18.2 Тб (7 дисков по
"4 маркетоидных Тб" в RAID-6) вполне хватает даже 2 Гб памяти.


-- 
Alexey V. Vissarionov
gremlin ПРИ altlinux ТЧК org; +vii-cmiii-ccxxix-lxxix-xlii
GPG: 0D92F19E1C0DC36E27F61A29CD17E2B43D879005 @ hkp://keys.gnupg.net

[-- Attachment #2: Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

15.11.2017 23:05, Alexey V. Vissarionov пишет:
>   > Вопрос: а почему swap активируется после проверок fsck ? Смысла
>   > так делать не видно. Надо бы до.
>
> Не надо - для проверки ФС на массиве объемом 18.2 Тб (7 дисков по
> "4 маркетоидных Тб" в RAID-6) вполне хватает даже 2 Гб памяти.

Это если у тебя файловая система не разрушена странным образом.

Тут явно какие-то довольно серьёзные проблемы с файловой системой, от 
которых плохо становится даже fsck.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

14.11.2017 22:57, Sergey Y. Afonin пишет:
> В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше 2Гб
> и единственном разделе на почти 1Тб (разметка по-умолчанию) для fsck
> просто не хватило памяти - его oomkiller прибил.

И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, все 
варианты дистрибутивов с альтератором разбивают диск так, чтобы был 
swap, корень, и home, а в ряде случаев также /var и /boot/efi. Если 
конечно не использовать ручной разметки или не сказать альтератору 
"использовать всё доступное пространство". Но это уже будет не "разметка 
по умолчанию".


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

15.11.2017 23:18, Leonid Krivoshein пишет:
>
> 14.11.2017 22:57, Sergey Y. Afonin пишет:
>> В кратце: что-то сломалось на ФС ext4. При объёме ОЗУ чуть меньше 2Гб
>> и единственном разделе на почти 1Тб (разметка по-умолчанию) для fsck
>> просто не хватило памяти - его oomkiller прибил.
>
> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, 
> все варианты дистрибутивов с альтератором разбивают диск так, чтобы 
> был swap, корень, и home, а в ряде случаев также /var и /boot/efi. 
> Если конечно не использовать ручной разметки или не сказать 
> альтератору "использовать всё доступное пространство". Но это уже 
> будет не "разметка по умолчанию".
>
>
Не все

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

15.11.2017 23:24, Anton Farygin пишет:
> 15.11.2017 23:18, Leonid Krivoshein пишет:
>> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, 
>> все варианты дистрибутивов с альтератором разбивают диск так, чтобы 
>> был swap, корень, и home, а в ряде случаев также /var и /boot/efi. 
>> Если конечно не использовать ручной разметки или не сказать 
>> альтератору "использовать всё доступное пространство". Но это уже 
>> будет не "разметка по умолчанию".
>>
> Не все
>

Все актуальные на платформе P8, СтартерКиты на P8, регулярки на текущем 
сизифусе (при наличии инсталлятора), даже Альт Образование 8.2 и Simply 
Linux, ну и все те из седьмой ветки, с которыми приходилось сталкиваться 
тоже. Так что непонятно, о каком тогда дистрибутиве идёт речь.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

16.11.2017 00:26, Leonid Krivoshein пишет:
>
> 15.11.2017 23:24, Anton Farygin пишет:
>> 15.11.2017 23:18, Leonid Krivoshein пишет:
>>> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, 
>>> все варианты дистрибутивов с альтератором разбивают диск так, чтобы 
>>> был swap, корень, и home, а в ряде случаев также /var и /boot/efi. 
>>> Если конечно не использовать ручной разметки или не сказать 
>>> альтератору "использовать всё доступное пространство". Но это уже 
>>> будет не "разметка по умолчанию".
>>>
>> Не все
>>
>
> Все актуальные на платформе P8, СтартерКиты на P8, регулярки на 
> текущем сизифусе (при наличии инсталлятора), даже Альт Образование 8.2 
> и Simply Linux, ну и все те из седьмой ветки, с которыми приходилось 
> сталкиваться тоже. Так что непонятно, о каком тогда дистрибутиве идёт речь
Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки а 
делают корень на всё. По моему до 250Gb.

От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно, 
то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или swap=mem/2

В ручной разбивке диска, особенно на ssd я всегда делаю swappiness 
конфигурацию.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

16.11.2017 07:29, Anton Farygin пишет:
> 16.11.2017 00:26, Leonid Krivoshein пишет:
>>
>> 15.11.2017 23:24, Anton Farygin пишет:
>>> 15.11.2017 23:18, Leonid Krivoshein пишет:
>>>> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, 
>>>> все варианты дистрибутивов с альтератором разбивают диск так, чтобы 
>>>> был swap, корень, и home, а в ряде случаев также /var и /boot/efi. 
>>>> Если конечно не использовать ручной разметки или не сказать 
>>>> альтератору "использовать всё доступное пространство". Но это уже 
>>>> будет не "разметка по умолчанию".
>>>>
>>> Не все
>>>
>>
>> Все актуальные на платформе P8, СтартерКиты на P8, регулярки на 
>> текущем сизифусе (при наличии инсталлятора), даже Альт Образование 
>> 8.2 и Simply Linux, ну и все те из седьмой ветки, с которыми 
>> приходилось сталкиваться тоже. Так что непонятно, о каком тогда 
>> дистрибутиве идёт речь
> Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки а 
> делают корень на всё. По моему до 250Gb.
>

А у меня противоположный опыт с небольшими дисками -- альтератор не 
может сделать разметку "по умолчанию" (ругается, говорит: недостаточно 
места на диске для этого), приходится использовать вариант "не по 
умолчанию".


> От swap тоже было бы неплохо избавиться - если ОЗУ более чем 
> достаточно, то нет смысла делать swap = mem*2. Вполне достаточно 
> swap=mem или swap=mem/2
>
> В ручной разбивке диска, особенно на ssd я всегда делаю swappiness 
> конфигурацию.
>

Хоть какой-то SWAP крайне желателен даже на SSD, даже на машинах с очень 
большой памятью. И для борьбы с OOM-Killer, и для резервирования места 
на SSD. Вообще, когда нет выделенного SWAP-раздела, в один прекрасный 
день может наступить такой вот печальный финал.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

16.11.2017 10:11, Leonid Krivoshein пишет:
>
> 16.11.2017 07:29, Anton Farygin пишет:
>> 16.11.2017 00:26, Leonid Krivoshein пишет:
>>>
>>> 15.11.2017 23:24, Anton Farygin пишет:
>>>> 15.11.2017 23:18, Leonid Krivoshein пишет:
>>>>> И кстати, с чего решили, что это "разметка по умолчанию"? 
>>>>> Напротив, все варианты дистрибутивов с альтератором разбивают диск 
>>>>> так, чтобы был swap, корень, и home, а в ряде случаев также /var и 
>>>>> /boot/efi. Если конечно не использовать ручной разметки или не 
>>>>> сказать альтератору "использовать всё доступное пространство". Но 
>>>>> это уже будет не "разметка по умолчанию".
>>>>>
>>>> Не все
>>>>
>>>
>>> Все актуальные на платформе P8, СтартерКиты на P8, регулярки на 
>>> текущем сизифусе (при наличии инсталлятора), даже Альт Образование 
>>> 8.2 и Simply Linux, ну и все те из седьмой ветки, с которыми 
>>> приходилось сталкиваться тоже. Так что непонятно, о каком тогда 
>>> дистрибутиве идёт речь
>> Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки а 
>> делают корень на всё. По моему до 250Gb.
>>
>
> А у меня противоположный опыт с небольшими дисками -- альтератор не 
> может сделать разметку "по умолчанию" (ругается, говорит: недостаточно 
> места на диске для этого), приходится использовать вариант "не по 
> умолчанию".
Это исправлено начиная с версии 8.2. Но может быть не во всех дистрибутивах.
>
>
>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем 
>> достаточно, то нет смысла делать swap = mem*2. Вполне достаточно 
>> swap=mem или swap=mem/2
>>
>> В ручной разбивке диска, особенно на ssd я всегда делаю swappiness 
>> конфигурацию.
>>
>
> Хоть какой-то SWAP крайне желателен даже на SSD, даже на машинах с 
> очень большой памятью. И для борьбы с OOM-Killer, и для резервирования 
> места на SSD. Вообще, когда нет выделенного SWAP-раздела, в один 
> прекрасный день может наступить такой вот печальный финал.
>
swap для резервирования места ? можно тут подробнее, я что-то не понимаю.

а с oom killer есть другие методы борьбы.

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Thursday 16 November 2017, Leonid Krivoshein wrote:

> А здесь у человека вообще нет SWAP-раздела,

Есть: /dev/sda1

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Wednesday 15 November 2017, Vladimir D. Seleznev wrote:

> Я не уверен, что это связано, но бывает, что swap — это файл, лежащий на
> ФС, на которой идёт проверка. В этом случает его нельзя активировать.
 
Это достаточно редкий вариант, и его можно учесть.

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Thursday 16 November 2017, Sergey Afonin wrote:

> > А здесь у человека вообще нет SWAP-раздела,
> 
> Есть: /dev/sda1
 
В исходном сообщении я написал "единственный", думая
о разделах с ФС. Видимо, этим ввёл в заблуждение.

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Thursday 16 November 2017, Leonid Krivoshein wrote:

> И кстати, с чего решили, что это "разметка по умолчанию"? 

Исходя из написанного на форуме: "Диск разбивался автоматически
при установке Альта. Я ничего специально не настраивал".

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Alexey V. Vissarionov]

[-- Attachment #1: Type: text/plain, Size: 686 bytes --]

On 2017-11-16 07:29:00 +0300, Anton Farygin wrote:

 > От swap тоже было бы неплохо избавиться - если ОЗУ более
 > чем достаточно, то нет смысла делать swap = mem*2.

В 21 веке это является атавизмом. Точно таким же, как initrd
при загрузке с диска или отдельный раздел /boot - кто вообще
помнит те хм... архитектурные особенности, которые надо было
обходить с их помощью?

 > Вполне достаточно swap=mem или swap=mem/2

Скорее, mem+o(mem) - чтобы при необходимости можно было туда
положить kernel memory dump.


-- 
Alexey V. Vissarionov
gremlin ПРИ altlinux ТЧК org; +vii-cmiii-ccxxix-lxxix-xlii
GPG: 0D92F19E1C0DC36E27F61A29CD17E2B43D879005 @ hkp://keys.gnupg.net

[-- Attachment #2: Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Thursday 16 November 2017, Alexey V. Vissarionov wrote:

>  > От swap тоже было бы неплохо избавиться - если ОЗУ более
>  > чем достаточно, то нет смысла делать swap = mem*2.
> 
> В 21 веке это является атавизмом. Точно таким же, как initrd
> при загрузке с диска 

Это ещё почему ? Все модули накопителей в ядро собирать что ли ?
А mdadm куда деть ?

> или отдельный раздел /boot - кто вообще помнит те хм...
> архитектурные особенности, которые надо было обходить с их
> помощью? 

Ну я помню. Причём одна особенность сохранилась до сих пор:
корень на RAID5, или RAID10.

-- 
С уважением, Сергей Афонин.

Re: [devel] swap < mem

[Dmitry V. Levin]

[-- Attachment #1: Type: text/plain, Size: 283 bytes --]

On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
[...]
> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно, 
> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или swap=mem/2

swap < mem исключает надёжный swsusp.


-- 
ldv

[-- Attachment #2: signature.asc --]
[-- Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] swap < mem

[Anton Farygin]

16.11.2017 14:06, Dmitry V. Levin пишет:
> On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
> [...]
>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно,
>> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или swap=mem/2
> swap < mem исключает надёжный swsusp.
swsuspend на серверах не использую.

Я и на ноуте им не пользуюсь - мне больше нравится suspend to memory.

Re: [devel] Отключение swap

[Paul Wolneykien]

16.11.2017 07:29, Anton Farygin пишет:
> 
> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно

  А подскажите, пожалуйста, как именно это сделать? В /etc/fstab swap
раздел закомментирован. `free -m` показывает "Swap: 0 0 0". Я
рассчитывал, что после этого, тот же firefox, при нехватке памяти на
очередную вкладку, будет закрываться быстро и "молча". Но нет: вместо
этого вся система становится неработоспособной на несколько минут(!) в
течение которых активно трещит диск. Прям как на винде, когда-то,
честное слово! Кто именно шарится в этом время по диску мне установить
пока не удалось.

Re: [devel] Отключение swap

[Anton Farygin]

16.11.2017 14:15, Paul Wolneykien пишет:
> 16.11.2017 07:29, Anton Farygin пишет:
>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно
>    А подскажите, пожалуйста, как именно это сделать? В /etc/fstab swap
> раздел закомментирован. `free -m` показывает "Swap: 0 0 0". Я
> рассчитывал, что после этого, тот же firefox, при нехватке памяти на
> очередную вкладку, будет закрываться быстро и "молча". Но нет: вместо
> этого вся система становится неработоспособной на несколько минут(!) в
> течение которых активно трещит диск. Прям как на винде, когда-то,
> честное слово! Кто именно шарится в этом время по диску мне установить
> пока не удалось.

overcommit настрой.
http://tolstiyman.blogspot.ru/2013/08/overcommit.html

Re: [devel] fsck, большие разделы и swap

[Igor Zubkov]

2017-11-15 22:03 GMT+02:00 Leonid Krivoshein:
> Лично для себя много лет, как успешно перешёл на JFS. Помимо того, что она
> изначально 64-битная и работает не медленнее ext4, она потребляет меньше
> ресурсов, мгновенно создаёт разделы и очень быстро восстанавливается после
> сбоев. Единственное, нет поддержки ядерных квот, но в большинстве случаев
> для корневого раздела они и не требуются. В плане надёжности -- использовал
> и в полевых условиях и на боевых серверах, проверено годами. Тем паче, эта
> ФС родом из AIX'а, а уж на надёжность IBM'овских серверов вряд ли кто
> пожалуется.

Это та самая что убивает открытые файлы при падении питания? ext4 (как
и ext3) нормально переживает такие случае. И вообще, нормально
переживала всё что случалось у меня.

-- 
Igor Zubkov
http://hi.im/ice

Re: [devel] Отключение swap

[Alexey Gladkov]

On Thu, Nov 16, 2017 at 02:15:13PM +0300, Paul Wolneykien wrote:
> 16.11.2017 07:29, Anton Farygin пишет:
> > 
> > От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно
> 
>   А подскажите, пожалуйста, как именно это сделать? В /etc/fstab swap
> раздел закомментирован. `free -m` показывает "Swap: 0 0 0". Я
> рассчитывал, что после этого, тот же firefox, при нехватке памяти на
> очередную вкладку, будет закрываться быстро и "молча".

Вы надеетесь на сегфолт ?

Кстати, у нас везде же по умолчанию overcommit memory.

malloc(3):

By default, Linux follows an optimistic memory allocation strategy. This
means that when malloc() returns non-NULL there is no guarantee that the
memory really is available. In case it turns out that the system is out of
memory, one or more processes will be killed by the OOM killer. For more
information, see the description of /proc/sys/vm/overcommit_memory and
/proc/sys/vm/oom_adj in proc(5), and the Linux kernel source file
Documentation/vm/overcommit-accounting.

-- 
Rgrds, legion

Re: [devel] Отключение swap

[Anton Farygin]

16.11.2017 14:32, Alexey Gladkov пишет:
> On Thu, Nov 16, 2017 at 02:15:13PM +0300, Paul Wolneykien wrote:
>> 16.11.2017 07:29, Anton Farygin пишет:
>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно
>>    А подскажите, пожалуйста, как именно это сделать? В /etc/fstab swap
>> раздел закомментирован. `free -m` показывает "Swap: 0 0 0". Я
>> рассчитывал, что после этого, тот же firefox, при нехватке памяти на
>> очередную вкладку, будет закрываться быстро и "молча".
> Вы надеетесь на сегфолт ?
>
> Кстати, у нас везде же по умолчанию overcommit memory.
>
> malloc(3):
>
> By default, Linux follows an optimistic memory allocation strategy. This
> means that when malloc() returns non-NULL there is no guarantee that the
> memory really is available. In case it turns out that the system is out of
> memory, one or more processes will be killed by the OOM killer. For more
> information, see the description of /proc/sys/vm/overcommit_memory and
> /proc/sys/vm/oom_adj in proc(5), and the Linux kernel source file
> Documentation/vm/overcommit-accounting.
>
Более того - при overcommit даже swap не особо помогает.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

16.11.2017 14:23, Igor Zubkov пишет:
> Это та самая что убивает открытые файлы при падении питания? ext4 (как
> и ext3) нормально переживает такие случае. И вообще, нормально
> переживала всё что случалось у меня.

Та самая - это xfs. И уже вроде как эту "фичу" починили. Но народ помнит ;)

Re: [devel] Отключение swap

[Paul Wolneykien]

16.11.2017 14:32, Alexey Gladkov пишет:
> On Thu, Nov 16, 2017 at 02:15:13PM +0300, Paul Wolneykien wrote:
>> 16.11.2017 07:29, Anton Farygin пишет:
>>>
>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем достаточно
>>
>>   А подскажите, пожалуйста, как именно это сделать? В /etc/fstab swap
>> раздел закомментирован. `free -m` показывает "Swap: 0 0 0". Я
>> рассчитывал, что после этого, тот же firefox, при нехватке памяти на
>> очередную вкладку, будет закрываться быстро и "молча".
> 
> Вы надеетесь на сегфолт ?

  Откровенно говоря, да.

> 
> Кстати, у нас везде же по умолчанию overcommit memory.
> 
> malloc(3):
> 
> By default, Linux follows an optimistic memory allocation strategy. This
> means that when malloc() returns non-NULL there is no guarantee that the
> memory really is available. In case it turns out that the system is out of
> memory, one or more processes will be killed by the OOM killer. For more

  Фига-се, optimistic. Больше на децимацию похоже.

> information, see the description of /proc/sys/vm/overcommit_memory and
> /proc/sys/vm/oom_adj in proc(5), and the Linux kernel source file
> Documentation/vm/overcommit-accounting.>

Re: [devel] Отключение swap

[Paul Wolneykien]

16.11.2017 14:57, Paul Wolneykien пишет:
>> Вы надеетесь на сегфолт ?
>   Откровенно говоря, да.
> 

  Вернее, на -ENOMEM.

Re: [devel] swap < mem [JT]

[Vitaly Lipatov]

Anton Farygin писал 16.11.17 14:07:
> 16.11.2017 14:06, Dmitry V. Levin пишет:
>> On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
>> [...]
>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем 
>>> достаточно,
>>> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или 
>>> swap=mem/2
>> swap < mem исключает надёжный swsusp.
> swsuspend на серверах не использую.
> 
> Я и на ноуте им не пользуюсь - мне больше нравится suspend to memory.
А мне нет — у меня ноут через 3 дня разряжается при suspend to memory, а 
включаю я его на четвёртый.
И я заглядывал в systemd и видел там какой-то гибридный режим. Возможно, 
он поначалу to ram, а через какое-то время to disk ?

-- 
С уважением,
Виталий Липатов,
Etersoft

Re: [devel] swap < mem [JT]

[Paul Wolneykien]

16.11.2017 15:14, Vitaly Lipatov пишет:
> Anton Farygin писал 16.11.17 14:07:
>> 16.11.2017 14:06, Dmitry V. Levin пишет:
>>> On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
>>> [...]
>>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем
>>>> достаточно,
>>>> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или
>>>> swap=mem/2
>>> swap < mem исключает надёжный swsusp.
>> swsuspend на серверах не использую.
>>
>> Я и на ноуте им не пользуюсь - мне больше нравится suspend to memory.
> А мне нет — у меня ноут через 3 дня разряжается при suspend to memory, а
> включаю я его на четвёртый.
> И я заглядывал в systemd и видел там какой-то гибридный режим. Возможно,
> он поначалу to ram, а через какое-то время to disk ?

  Кажется, он to ram и to disk одновременно. Долго засыпаем, но быстро
просыпаемся. Если повезёт.

Re: [devel] swap < mem [JT]

[Anton Farygin]

16.11.2017 15:14, Vitaly Lipatov пишет:
> Anton Farygin писал 16.11.17 14:07:
>> 16.11.2017 14:06, Dmitry V. Levin пишет:
>>> On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
>>> [...]
>>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем 
>>>> достаточно,
>>>> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или 
>>>> swap=mem/2
>>> swap < mem исключает надёжный swsusp.
>> swsuspend на серверах не использую.
>>
>> Я и на ноуте им не пользуюсь - мне больше нравится suspend to memory.
> А мне нет — у меня ноут через 3 дня разряжается при suspend to memory, 
> а включаю я его на четвёртый.
> И я заглядывал в systemd и видел там какой-то гибридный режим. 
> Возможно, он поначалу to ram, а через какое-то время to disk ? 

т.к. не пользуюсь, то и не интересуюсь.

Re: [devel] Отключение swap

[Anton Farygin]

16.11.2017 14:58, Paul Wolneykien пишет:
> 16.11.2017 14:57, Paul Wolneykien пишет:
>>> Вы надеетесь на сегфолт ?
>>    Откровенно говоря, да.
>>
>    Вернее, на -ENOMEM.

Для ENOMEM настрой overcommit правильно.

Re: [devel] Отключение swap

[Vitaly Lipatov]

Anton Farygin писал 16.11.17 15:38:
> 16.11.2017 14:58, Paul Wolneykien пишет:
>> 16.11.2017 14:57, Paul Wolneykien пишет:
>>>> Вы надеетесь на сегфолт ?
>>>    Откровенно говоря, да.
>>> 
>>    Вернее, на -ENOMEM.
> 
> Для ENOMEM настрой overcommit правильно.
А можно overcommit правильно настроить в дистрибутиве?
Последние 16 лет как только приложение начинает есть память, система 
уходит в своп и перестаёт на что-либо реагировать. Очень неприятно.

-- 
С уважением,
Виталий Липатов,
Etersoft

[devel] control for overcommit memory (was: Re: Отключение swap)

[Alexey Gladkov]

On Thu, Nov 16, 2017 at 03:45:00PM +0300, Vitaly Lipatov wrote:
> Anton Farygin писал 16.11.17 15:38:
> > 16.11.2017 14:58, Paul Wolneykien пишет:
> >> 16.11.2017 14:57, Paul Wolneykien пишет:
> >>>> Вы надеетесь на сегфолт ?
> >>>    Откровенно говоря, да.
> >>> 
> >>    Вернее, на -ENOMEM.
> > 
> > Для ENOMEM настрой overcommit правильно.
> А можно overcommit правильно настроить в дистрибутиве?
> Последние 16 лет как только приложение начинает есть память, система 
> уходит в своп и перестаёт на что-либо реагировать. Очень неприятно.

+1. Может control какой-нибудь сделать ?

-- 
Rgrds, legion

Re: [devel] control for overcommit memory

[Paul Wolneykien]

16.11.2017 16:01, Alexey Gladkov пишет:
> On Thu, Nov 16, 2017 at 03:45:00PM +0300, Vitaly Lipatov wrote:
>> Anton Farygin писал 16.11.17 15:38:
>>>
>>> Для ENOMEM настрой overcommit правильно.
>> А можно overcommit правильно настроить в дистрибутиве?
>> Последние 16 лет как только приложение начинает есть память, система 
>> уходит в своп и перестаёт на что-либо реагировать. Очень неприятно.
> 
> +1. Может control какой-нибудь сделать ?
> 

  Хорошая мысль. Только я ещё пока не прочитал, как его настраивать.

Re: [devel] control for overcommit memory

[Anton Farygin]

16.11.2017 16:06, Paul Wolneykien пишет:
> 16.11.2017 16:01, Alexey Gladkov пишет:
>> On Thu, Nov 16, 2017 at 03:45:00PM +0300, Vitaly Lipatov wrote:
>>> Anton Farygin писал 16.11.17 15:38:
>>>> Для ENOMEM настрой overcommit правильно.
>>> А можно overcommit правильно настроить в дистрибутиве?
>>> Последние 16 лет как только приложение начинает есть память, система
>>> уходит в своп и перестаёт на что-либо реагировать. Очень неприятно.
>> +1. Может control какой-нибудь сделать ?
>>
>    Хорошая мысль. Только я ещё пока не прочитал, как его настраивать.

Зачем control ? можно прямо в пакет положить, это же sysctl

Re: [devel] control for overcommit memory

[Paul Wolneykien]

16.11.2017 16:42, Anton Farygin пишет:
> 16.11.2017 16:06, Paul Wolneykien пишет:
>> 16.11.2017 16:01, Alexey Gladkov пишет:
>>> On Thu, Nov 16, 2017 at 03:45:00PM +0300, Vitaly Lipatov wrote:
>>>> Anton Farygin писал 16.11.17 15:38:
>>>>> Для ENOMEM настрой overcommit правильно.
>>>> А можно overcommit правильно настроить в дистрибутиве?
>>>> Последние 16 лет как только приложение начинает есть память, система
>>>> уходит в своп и перестаёт на что-либо реагировать. Очень неприятно.
>>> +1. Может control какой-нибудь сделать ?
>>>
>>    Хорошая мысль. Только я ещё пока не прочитал, как его настраивать.
> 
> Зачем control ? можно прямо в пакет положить, это же sysctl

  Отлично. sysctl сам себе control.

Re: [devel] fsck, большие разделы и swap

[Mikhail Efremov]

On Thu, 16 Nov 2017 07:29:00 +0300 Anton Farygin wrote:
> 16.11.2017 00:26, Leonid Krivoshein пишет:
> >
> > 15.11.2017 23:24, Anton Farygin пишет:  
> >> 15.11.2017 23:18, Leonid Krivoshein пишет:  
> >>> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив, 
> >>> все варианты дистрибутивов с альтератором разбивают диск так, чтобы 
> >>> был swap, корень, и home, а в ряде случаев также /var и /boot/efi. 
> >>> Если конечно не использовать ручной разметки или не сказать 
> >>> альтератору "использовать всё доступное пространство". Но это уже 
> >>> будет не "разметка по умолчанию".
> >>>  
> >> Не все
> >>  
> >
> > Все актуальные на платформе P8, СтартерКиты на P8, регулярки на 
> > текущем сизифусе (при наличии инсталлятора), даже Альт Образование 8.2 
> > и Simply Linux, ну и все те из седьмой ветки, с которыми приходилось 
> > сталкиваться тоже. Так что непонятно, о каком тогда дистрибутиве идёт речь  
> Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки а 
> делают корень на всё. По моему до 250Gb.

В Альт Сервер я это только недавно сделал (не режется диск меньше
120Гб), публичной беты с этим изменением еще не было.
А в Рабочей станции используется профиль из регулярок и я не хочу уже
это трогать. Там такого нет, /home выделяется всегда, вроде. Можно mike@
повесить фич-реквест на профили разбивки для регулярок.

-- 
WBR, Mikhail Efremov

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

16.11.2017 18:37, Mikhail Efremov пишет:
> On Thu, 16 Nov 2017 07:29:00 +0300 Anton Farygin wrote:
>> 16.11.2017 00:26, Leonid Krivoshein пишет:
>>> 15.11.2017 23:24, Anton Farygin пишет:
>>>> 15.11.2017 23:18, Leonid Krivoshein пишет:
>>>>> И кстати, с чего решили, что это "разметка по умолчанию"? Напротив,
>>>>> все варианты дистрибутивов с альтератором разбивают диск так, чтобы
>>>>> был swap, корень, и home, а в ряде случаев также /var и /boot/efi.
>>>>> Если конечно не использовать ручной разметки или не сказать
>>>>> альтератору "использовать всё доступное пространство". Но это уже
>>>>> будет не "разметка по умолчанию".
>>>>>   
>>>> Не все
>>>>   
>>> Все актуальные на платформе P8, СтартерКиты на P8, регулярки на
>>> текущем сизифусе (при наличии инсталлятора), даже Альт Образование 8.2
>>> и Simply Linux, ну и все те из седьмой ветки, с которыми приходилось
>>> сталкиваться тоже. Так что непонятно, о каком тогда дистрибутиве идёт речь
>> Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки а
>> делают корень на всё. По моему до 250Gb.
> В Альт Сервер я это только недавно сделал (не режется диск меньше
> 120Гб), публичной беты с этим изменением еще не было.
> А в Рабочей станции используется профиль из регулярок и я не хочу уже
> это трогать. Там такого нет, /home выделяется всегда, вроде. Можно mike@
> повесить фич-реквест на профили разбивки для регулярок.

на рабочей станции это ещё более критично, там по умолчанию вообще 
странная конфигурация.


А если ей ставить на SSD, то без смены дефолта никак.

Re: [devel] swap < mem [JT]

[Vladimir D. Seleznev]

On Thu, Nov 16, 2017 at 03:21:49PM +0300, Paul Wolneykien wrote:
> 16.11.2017 15:14, Vitaly Lipatov пишет:
> > Anton Farygin писал 16.11.17 14:07:
> >> 16.11.2017 14:06, Dmitry V. Levin пишет:
> >>> On Thu, Nov 16, 2017 at 07:29:00AM +0300, Anton Farygin wrote:
> >>> [...]
> >>>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем
> >>>> достаточно,
> >>>> то нет смысла делать swap = mem*2. Вполне достаточно swap=mem или
> >>>> swap=mem/2
> >>> swap < mem исключает надёжный swsusp.
> >> swsuspend на серверах не использую.
> >>
> >> Я и на ноуте им не пользуюсь - мне больше нравится suspend to memory.
> > А мне нет — у меня ноут через 3 дня разряжается при suspend to memory, а
> > включаю я его на четвёртый.
> > И я заглядывал в systemd и видел там какой-то гибридный режим. Возможно,
> > он поначалу to ram, а через какое-то время to disk ?
> 
>   Кажется, он to ram и to disk одновременно. Долго засыпаем, но быстро
> просыпаемся. Если повезёт.

Да, именно так. Сначала на диск записывает, потом засыпает в память.

-- 
   С уважением,
   Владимир Селезнев

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

16.11.2017 10:14, Anton Farygin пишет:

>> swap для резервирования места ? можно тут подробнее, я что-то не 
>> понимаю.
>

Подробнее? :) На эту тему в сети полной статей, наподобие этой: 
https://geektimes.ru/company/ocz/blog/274647/ , и речь не только и не 
столько о технологии OP на SSD/NAND/etc. Можно относиться к этому 
по-разному, в том числе, считать жадностью производителей. Но мы же люди 
грамотные, пузомерками тоже пользоваться умеем. Вкратце там в конце 
даётся конкретная рекомендация по резервированию. Выбор для этих целей 
редко используемого раздела SWAP, по-моему, удачная идея.


16.11.2017 10:14, Anton Farygin пишет:
> 16.11.2017 10:11, Leonid Krivoshein пишет:
>> 16.11.2017 07:29, Anton Farygin пишет:
>>> Все дистрибутивы 8-й ветки (8.2) не режут небольшой диск на кусочки 
>>> а делают корень на всё. По моему до 250Gb.
>> А у меня противоположный опыт с небольшими дисками -- альтератор не 
>> может сделать разметку "по умолчанию" (ругается, говорит: 
>> недостаточно места на диске для этого), приходится использовать 
>> вариант "не по умолчанию".
> Это исправлено начиная с версии 8.2. Но может быть не во всех 
> дистрибутивах.

У меня тут в доступе пока только 8.2-beta2, собранная в начале этого 
месяца. То, что попало к вам на тестирование, как сегодня выяснилось, у 
меня пока нет. Поэтому я посмотрел ещё раз на том, что имелось в наличии.

Поскольку для минимальной инсталляции с серверного дистрибутива 
достаточно чуть более 1Гб, я развернул виртуалку с 7Гб HDD для 
Server-8.2-beta2. При выборе "разбивки по умолчанию", дистрибутив 
отказался устанавливаться, ссылаясь на нехватку места на диске -- нужно 
минимум 16Гб, сказал мне альтератор. При этом "разбивка вручную" 
позволила добиться корня, заполненного примерно на 1Гб.

Тогда я увеличил HDD до 18Гб и запустил инсталляцию сервера по-новой. 
Теперь диск разбит автоматически следующим образом: sda1=swap=2Gb, 
sda2=/=12Gb и sda5=/var=4.2Gb.

Что касается рабочей станции 8.2 (тоже beta2 начала ноября). При HDD 
20Gb "разбивку по умолчанию" альтератор не показал, но сделал её молча 
следующим образом: sda1=swap=2Gb, sda2=/=16Gb и sda5=/home=2Gb.

Для чистоты эксперимента я повторил инсталляцию рабочей станции 
8.2-beta2 на HDD 7Gb. В этот раз альтератор не ругнулся на нехватку 
места на диске при выборе "ручной разметки" и я уж было подумал... 
однако дойдя до шага 5/12 (установка системы) возникла "Критическая 
ошибка установки" (красным цветом), при этом разные (не установившиеся?) 
пакеты требовали в /mnt/destansion от 14 до 16Мб. На шаге выбора 
приложений я снял все галочки, требуемое место на диске до начала 
установки составляло 3273Мб. Полагаю, и здесь "разметка по умолчанию" 
сработала ожидаемым образом. Думаю, вот это самое правильное и вполне 
логичное поведение. Лучше только, если вычислить требуемый объём заранее 
и достаточно точно.

На всякий случай сохранил скриншоты и показания требуемого места на 
диске при выборе тех или иных вариантов комплектации:

Дистрибутив -- Вариант комплектации          -- Требуется места на диске
Srv 8.2  -- Рабочая станция (по умолчанию)   -- 4 185 Мб
Srv 8.2  -- Офисный сервер (по умолчанию)   -- 4 515 Мб
Srv 8.2  -- Сервер Samba-DC (по умолчанию) -- 2 802 Мб
Srv 8.2  -- Минимальная установка                 -- 1 015 Мб
WS 8.2  -- Установки по умолчанию                -- 4 487 Мб
WS 8.2  -- Минимальная установка                 -- 3 273 Мб

Вот такая загогулина получается. И чем обусловлен лимит в 16Гб минимум, 
и почему при этом на сервере хватает 12Гб для корня -- не очень понятно.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

16.11.2017 14:02, Sergey Afonin пишет:
> On Thursday 16 November 2017, Alexey V. Vissarionov wrote:
>
>>   > От swap тоже было бы неплохо избавиться - если ОЗУ более
>>   > чем достаточно, то нет смысла делать swap = mem*2.
>>
>> В 21 веке это является атавизмом. Точно таким же, как initrd
>> при загрузке с диска
> Это ещё почему ? Все модули накопителей в ядро собирать что ли ?
> А mdadm куда деть ?

Для какой-то индивидуальной (заказной) системы предсказуемой 
конфигурации - да, можно. Но для массового продукта так делать не стоит. 
Не надо вкомпилячивать в ядро всё подряд ещё и из соображений 
особенностей сертификации в РФ.

>> или отдельный раздел /boot - кто вообще помнит те хм...
>> архитектурные особенности, которые надо было обходить с их
>> помощью?
> Ну я помню. Причём одна особенность сохранилась до сих пор:
> корень на RAID5, или RAID10.
>

Если не изменяет память, mdadm --metadata=1.0 при вышеупомянутом 
Алексеем Виссарионовым типом раздела (Linux RAID autodetect) делает 
boot-раздел для таких рейдов действительно не нужным. Но с оговорками. 
Grub не ниже определённой версии и только с текстовой консолью (про 
бутсплэш придётся забыть). Что впрочем абсолютная норма для серверов. 
Про другие загрузчики честно не знаю.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

16.11.2017 14:23, Igor Zubkov пишет:
> 2017-11-15 22:03 GMT+02:00 Leonid Krivoshein:
>> Лично для себя много лет, как успешно перешёл на JFS. Помимо того, что она
>> изначально 64-битная и работает не медленнее ext4, она потребляет меньше
>> ресурсов, мгновенно создаёт разделы и очень быстро восстанавливается после
>> сбоев. Единственное, нет поддержки ядерных квот, но в большинстве случаев
>> для корневого раздела они и не требуются. В плане надёжности -- использовал
>> и в полевых условиях и на боевых серверах, проверено годами. Тем паче, эта
>> ФС родом из AIX'а, а уж на надёжность IBM'овских серверов вряд ли кто
>> пожалуется.
> Это та самая что убивает открытые файлы при падении питания? ext4 (как
> и ext3) нормально переживает такие случае. И вообще, нормально
> переживала всё что случалось у меня.
>

Внесённые в открытые файлы изменения, думаю, при падении питания не 
сохраняет ни одна файловая система. Это нормально, когда по журналу 
происходит откат до последней успешно завершённой транзакции. И в этом 
плане JFS не уступает другим системам, очевидно, используя CoW, хотя не 
могу сказать, что JFS фрагментируется больше других ФС. Личный опыт её 
эксплуатации на серверах и десктопах говорит в её пользу, хотя внешних 
сбоев каких-только не случалось: и убитые харды в рейдах, и падения 
питания, и даже превращение серверной в сауну, когда до железа нельзя 
дотронутся. В пользу стабильности jfs в сравнении с ext4 косвенно 
говорит и то, что код в mainline kernel на ext4 попадает с завидной 
регулярностью, а по jfs этого не наблюдается. Есть на гитхабе проект 
вроде бы как Торвальдса, где активные работы с jfs ведутся, но почему 
это не уходит в mainline kernel -- честно не знаю. Когда интересовался 
этим в последний раз, видел патч в коде jfs ванильного ядра, добавивший 
несколько лет назад поддержку trim. Возможно, объяснение простое: код 
jfs заброшен так, что Линус решил им сам вплотную заняться, но тогда 
остаётся непонятным, почему эти результаты пока не в ядре. Но всему 
судья личные шишки. С ext4 случалось разное, и корневой раздел терял на 
заре её стабилизации (после использования fsck, кстати).


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

16.11.2017 14:02, Sergey Afonin пишет:
> On Thursday 16 November 2017, Alexey V. Vissarionov wrote:
>> или отдельный раздел /boot - кто вообще помнит те хм...
>> архитектурные особенности, которые надо было обходить с их
>> помощью?
> Ну я помню. Причём одна особенность сохранилась до сих пор:
> корень на RAID5, или RAID10.

Вот подробнее (не проверял, насколько достоверно): 
https://habrahabr.ru/post/133059/ . По некоторым источникам всё же 
--metadata=0.9, но помнится, у меня и с 1.0 отлично работало, правда на 
RAID1 и с выше названными оговорками.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

17.11.2017 00:27, Leonid Krivoshein пишет:
> 16.11.2017 10:14, Anton Farygin пишет:
>
>>> swap для резервирования места ? можно тут подробнее, я что-то не 
>>> понимаю.
>>
>
> Подробнее? :) На эту тему в сети полной статей, наподобие этой: 
> https://geektimes.ru/company/ocz/blog/274647/ , и речь не только и не 
> столько о технологии OP на SSD/NAND/etc. Можно относиться к этому 
> по-разному, в том числе, считать жадностью производителей. Но мы же 
> люди грамотные, пузомерками тоже пользоваться умеем. Вкратце там в 
> конце даётся конкретная рекомендация по резервированию. Выбор для этих 
> целей редко используемого раздела SWAP, по-моему, удачная идея. 

swap при текущих настройках swapiness вполне себе часто используемый раздел.

Поэтому меня и удивил этот подход.

Т.е. - если захочется сберечь место на ssd, то лучше оставить его 
пустым, а не отдавать под swap.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

17.11.2017 00:27, Leonid Krivoshein пишет:
> Дистрибутив -- Вариант комплектации          -- Требуется места на диске
> Srv 8.2  -- Рабочая станция (по умолчанию)   -- 4 185 Мб
> Srv 8.2  -- Офисный сервер (по умолчанию)   -- 4 515 Мб
> Srv 8.2  -- Сервер Samba-DC (по умолчанию) -- 2 802 Мб
> Srv 8.2  -- Минимальная установка                 -- 1 015 Мб
> WS 8.2  -- Установки по умолчанию                -- 4 487 Мб
> WS 8.2  -- Минимальная установка                 -- 3 273 Мб
>
> Вот такая загогулина получается. И чем обусловлен лимит в 16Гб 
> минимум, и почему при этом на сервере хватает 12Гб для корня -- не 
> очень понятно. 

Сервер Миша написал что поправил, а вот рабочую станцию надо ещё править.

Workstation K уже исправлена давно.

Что касается размеров - то я тоже голосую за уменьшение этих лимитов, но 
здесь нужно быть аккуратным - я уже попадал в ситуацию, когда у нас 
дефолт корень на 20Gb и через полгода место заканчивается..

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Friday 17 November 2017, Leonid Krivoshein wrote:

> > Это та самая что убивает открытые файлы при падении питания? ext4
> > (как и ext3) нормально переживает такие случае. И вообще, нормально
> > переживала всё что случалось у меня.

> Внесённые в открытые файлы изменения, думаю, при падении питания не 
> сохраняет ни одна файловая система.

Речь про полную потерю файлов. Но как уже rider@ уточнил, это была
фича xfs.

> С ext4 случалось разное, и корневой раздел терял на заре её
> стабилизации (после использования fsck, кстати). 

ext4, думаю, используется более широко, отсюда и больше разных случаев.
У меня вот с ext4 пока ничего фатального не было.

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Friday 17 November 2017, Leonid Krivoshein wrote:

> Если не изменяет память, mdadm --metadata=1.0 при вышеупомянутом 
> Алексеем Виссарионовым типом раздела (Linux RAID autodetect) делает
> boot-раздел для таких рейдов действительно не нужным.

Изменяет. Не нужно только для RAID1. RAID, действительно, соберётся
ядром (только metadata 0.9, а не 1.0), но кто загрузит размазанное
по дискам ядро ? Разве что Grub научили. Но...

> Но с оговорками. Grub не ниже определённой версии

А как он загрузится, если по нескольким HDD сам размазан ? Если
только RAID не собирается на уровне BIOS. Или он весь всё ещё
на нулевом цилиндре живёт и на все HDD пишется вне RAID ? Тем
более, что я Lilo использую, вообще.

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

17.11.2017 07:07, Anton Farygin пишет:
> swap при текущих настройках swapiness вполне себе часто используемый 
> раздел.
>

Вы имеете ввиду какие-то свои особые настройки или же системное 
умолчание vm.swappines=60?


> Т.е. - если захочется сберечь место на ssd, то лучше оставить его 
> пустым, а не отдавать под swap.

На современных машинах с достаточно большим объёмом ОЗУ принято бороться 
за уменьшение частоты своппинга, в т.ч. используя значения vm.swappines 
= 10, 1 или 0 вместо дефолтного 60, поскольку SSD в таких системах -- 
самое узкое место, от которого в наибольшей степени зависит Overal 
Perfomance Index. Резервирование места на SSD делается для увеличения 
производительности и продления срока жизни SSD. Запись на SSD, в т.ч. в 
SWAP, ведёт к противоположному результату.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

17.11.2017 10:51, Leonid Krivoshein пишет:
>
>
> 17.11.2017 07:07, Anton Farygin пишет:
>> swap при текущих настройках swapiness вполне себе часто используемый 
>> раздел.
>>
>
> Вы имеете ввиду какие-то свои особые настройки или же системное 
> умолчание vm.swappines=60?
Я имею ввиду системное умолчание.
>
>
>> Т.е. - если захочется сберечь место на ssd, то лучше оставить его 
>> пустым, а не отдавать под swap.
>
> На современных машинах с достаточно большим объёмом ОЗУ принято 
> бороться за уменьшение частоты своппинга, в т.ч. используя значения 
> vm.swappines = 10, 1 или 0 вместо дефолтного 60, поскольку SSD в таких 
> системах -- самое узкое место, от которого в наибольшей степени 
> зависит Overal Perfomance Index. Резервирование места на SSD делается 
> для увеличения производительности и продления срока жизни SSD. Запись 
> на SSD, в т.ч. в SWAP, ведёт к противоположному результату.
>
>
Именно. Поэтому если хочется продлить жизнь ssd за счёт неиспользуемых 
блоков - то оптимальнее оставить место свободных. Хотя я всё равно не 
понимаю каким образом это увеличит жизнь диска - объём записываемых 
данных за срок жизни при этом не изменится.

Если же сделать на SSD swap, даже с swappines=10, то объём записываемых 
данных  _вырастет_ и тем самым мы не увеличим, а уменьшим ресурс SSD.

  Т.е. - если для нормального функционирования системы без свопа нужно 
ежедневно записывать 1Gb данных (например) для логов. То при появлении 
свопа объём ежедневно записываемых данных будет 1Gb + swap, а не 1Gb 
минус swap. Т.е. - но растёт, а не уменьшается.

а ресурс SSD, как известно - это именно количество записанных блоков.

Хотя, если быть честными - то я ни разу ещё не сталкивался с SSD, 
умершими от окончания ресурса (на десктопах, на серверах я такое видел). 
Гораздо чаще выходит из строя электроника и это заметно неприятнее - ssd 
отказывает одномоментно и без предупреждений.

Re: [devel] fsck, большие разделы и swap

[Alexey V. Vissarionov]

[-- Attachment #1: Type: text/plain, Size: 1634 bytes --]

On 2017-11-16 15:02:12 +0400, Sergey Afonin wrote:

 >>> От swap тоже было бы неплохо избавиться - если ОЗУ более чем
 >>> достаточно, то нет смысла делать swap = mem*2.

 >> В 21 веке это является атавизмом. Точно таким же, как initrd
 >> при загрузке с диска

 > Это ещё почему ? Все модули накопителей в ядро собирать что ли ?

Разумеется. Даже если не все - то все более-менее современные.
Например, PATA уже вполне можно не собирать.

Более того: у некоторых из них при вкомпилячивании в ядро
появляется дополнительный функционал.

 > А mdadm куда деть ?

Гусары, молчать!
Хотя... эээээ... ну да, в %_sbindir :-)

А куда еще-то? Он нужен только при переконфигурировании массива -
все остальное делает CONFIG_MD_AUTODETECT (ага, типичный пример
вышеупомянутого дополнительного функционала, который появляется
при сборке ядра с CONFIG_MD_RAID{0,1,10,456}=y).

 >> или отдельный раздел /boot - кто вообще помнит те хм...
 >> архитектурные особенности, которые надо было обходить с их
 >> помощью?
 > Ну я помню.

Следующая фраза вызывает у меня изрядные сомнения в этом.

 > Причём одна особенность сохранилась до сих пор:
 > корень на RAID5, или RAID10.

А смысл? Единственный тип массива, имеющий практический смысл
для корня - зеркало (RAID1), ибо существенно ускоряет чтение
(а запись в корневой раздел происходит все же довольно редко).

И, кстати, это не архитектурная особенность, а самая обычная
хотелка администратора.


-- 
Alexey V. Vissarionov
gremlin ПРИ altlinux ТЧК org; +vii-cmiii-ccxxix-lxxix-xlii
GPG: 0D92F19E1C0DC36E27F61A29CD17E2B43D879005 @ hkp://keys.gnupg.net

[-- Attachment #2: Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Friday 17 November 2017, Alexey V. Vissarionov wrote:

>  >> или отдельный раздел /boot - кто вообще помнит те хм...
>  >> архитектурные особенности, которые надо было обходить с их
>  >> помощью?

>  > Ну я помню.
> 
> Следующая фраза вызывает у меня изрядные сомнения в этом.

А какая связь ? :-)

>  > Причём одна особенность сохранилась до сих пор:
>  > корень на RAID5, или RAID10.
> 
> А смысл? Единственный тип массива, имеющий практический смысл

В экономии места, например. Удобно, когда все HDD побиты на разделы
идентично. Одно дело, когда маленький /boot отдельно, другое - когда
большой корень. Под зеркало надо 2 раздела, а остальное, с других
hdd, пропадает. Не делать же на них ещё одно зеркало для чего-нибудь.
Можно добавить в зеркало к корню, но, всё равно, место пропадает.

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Dmitry V. Levin]

[-- Attachment #1: Type: text/plain, Size: 780 bytes --]

On Thu, Nov 16, 2017 at 01:33:19PM +0300, Alexey V. Vissarionov wrote:
> On 2017-11-16 07:29:00 +0300, Anton Farygin wrote:
> 
>  > От swap тоже было бы неплохо избавиться - если ОЗУ более
>  > чем достаточно, то нет смысла делать swap = mem*2.
> 
> В 21 веке это является атавизмом. Точно таким же, как initrd
> при загрузке с диска или отдельный раздел /boot - кто вообще
> помнит те хм... архитектурные особенности, которые надо было
> обходить с их помощью?

Всё же замечу, что в 21 веке в универсальных ядрах всё, что можно,
выносится в модули, что неизбежно приводит к необходимости использовать
initrd, в то время как для систем узкоспециального применения собирают
ядра со всей необходимой функциональностью и без поддержки загрузки
модулей.


-- 
ldv

[-- Attachment #2: signature.asc --]
[-- Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

17.11.2017 14:41, Dmitry V. Levin пишет:
> On Thu, Nov 16, 2017 at 01:33:19PM +0300, Alexey V. Vissarionov wrote:
>> On 2017-11-16 07:29:00 +0300, Anton Farygin wrote:
>>
>>   > От swap тоже было бы неплохо избавиться - если ОЗУ более
>>   > чем достаточно, то нет смысла делать swap = mem*2.
>>
>> В 21 веке это является атавизмом. Точно таким же, как initrd
>> при загрузке с диска или отдельный раздел /boot - кто вообще
>> помнит те хм... архитектурные особенности, которые надо было
>> обходить с их помощью?
> Всё же замечу, что в 21 веке в универсальных ядрах всё, что можно,
> выносится в модули, что неизбежно приводит к необходимости использовать
> initrd, в то время как для систем узкоспециального применения собирают
> ядра со всей необходимой функциональностью и без поддержки загрузки
> модулей.

Главное, в 21-ом веке, не вкомпилировать в ядро ipv6 без острой на то 
необходимости ;)

А initrd может не только модули грузить... там ещё кое-чего делается

https://www.kernel.org/doc/Documentation/x86/early-microcode.txt

Re: [devel] fsck, большие разделы и swap

[Dmitry V. Levin]

[-- Attachment #1: Type: text/plain, Size: 1656 bytes --]

On Fri, Nov 17, 2017 at 02:44:42PM +0300, Anton Farygin wrote:
> 17.11.2017 14:41, Dmitry V. Levin пишет:
> > On Thu, Nov 16, 2017 at 01:33:19PM +0300, Alexey V. Vissarionov wrote:
> >> On 2017-11-16 07:29:00 +0300, Anton Farygin wrote:
> >>
> >>   > От swap тоже было бы неплохо избавиться - если ОЗУ более
> >>   > чем достаточно, то нет смысла делать swap = mem*2.
> >>
> >> В 21 веке это является атавизмом. Точно таким же, как initrd
> >> при загрузке с диска или отдельный раздел /boot - кто вообще
> >> помнит те хм... архитектурные особенности, которые надо было
> >> обходить с их помощью?
> > Всё же замечу, что в 21 веке в универсальных ядрах всё, что можно,
> > выносится в модули, что неизбежно приводит к необходимости использовать
> > initrd, в то время как для систем узкоспециального применения собирают
> > ядра со всей необходимой функциональностью и без поддержки загрузки
> > модулей.
> 
> Главное, в 21-ом веке, не вкомпилировать в ядро ipv6 без острой на то 
> необходимости ;)

Это точно. :)

Хотя в ipv6 поддерживаются и довольно редкие для модулей параметры:

# modinfo ipv6 |grep disable
parm:           disable:Disable IPv6 module such that it is non-functional (int)
parm:           disable_ipv6:Disable IPv6 on all interfaces (int)

Это позволяет выключить ipv6 даже в том случае, когда код попал в ядро
по зависимостям других модулей.

> А initrd может не только модули грузить... там ещё кое-чего делается
> 
> https://www.kernel.org/doc/Documentation/x86/early-microcode.txt

А в негибких ядрах без поддержки модулей включают нужную firmware
и CONFIG_FIRMWARE_IN_KERNEL.


-- 
ldv

[-- Attachment #2: signature.asc --]
[-- Type: application/pgp-signature, Size: 801 bytes --]

Re: [devel] fsck, большие разделы и swap

[Sergey Afonin]

On Friday 17 November 2017, Anton Farygin wrote:

> Главное, в 21-ом веке, не вкомпилировать в ядро ipv6 без острой на то 
> необходимости ;)
 
Нам тут сказали недавно, что LIR-ам в последний раз можно взять в RIPE
по /22 блоку IPv4, и всё. ;-)

-- 
С уважением, Сергей Афонин.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

17.11.2017 11:03, Anton Farygin пишет:

> Именно. Поэтому если хочется продлить жизнь ssd за счёт неиспользуемых 
> блоков - то оптимальнее оставить место свободных.

В ряде случаев SWAP вполне можно считать доступным пользователю всегда 
свободным разделом. Он всё равно нужен, причём для записи, просто 
кому-то реже, кому-то чаще, а при нынешних объёмах ОЗУ и при 
определённых настройках ядро может обходиться без него практически 
полностью.

> Хотя я всё равно не понимаю каким образом это увеличит жизнь диска - 
> объём записываемых данных за срок жизни при этом не изменится.

Поэтому дал ссылку на статью. Проблема становится актуальной при высокой 
заполненности диска. Скорость начинает сильно деградировать. На 
пользователях я это замечал ни раз. При отсутствии достаточного 
свободного места контроллеру не остаётся ничего, как перезаписывать 
блоки, занятые не полностью, выполнять дефрагментацию на лету. С т.з. 
пользователя объём записи не меняется, но с т.з. ячеек -- циклов 
перезаписи остаётся меньше, поскольку занятое надо сначала стереть. 
Износ ячеек при этом регулируется контроллером уже не столь равномерно. 
Хотя безусловно, это зависит от контроллера и от пользователя скрыто. Но 
рекомендация производителей, все эти утилиты и твики -- не случайно.

>
> Если же сделать на SSD swap, даже с swappines=10, то объём 
> записываемых данных  _вырастет_ и тем самым мы не увеличим, а уменьшим 
> ресурс SSD.

Если умолчальное значение 60 опустить до 10, объём записи в SWAP упадёт 
на порядок. Если с 60 до 1, то запись в SWAP будет выполняться только 
при крайней на то необходимости.

>
> Т.е. - если для нормального функционирования системы без свопа

Мне сложно представить себе жизнь без SWAP'а для большинства рабочих 
конфигураций. Я знаю, что многие обходятся без него, но это всё до поры, 
до времени.

>
> Хотя, если быть честными - то я ни разу ещё не сталкивался с SSD, 
> умершими от окончания ресурса (на десктопах, на серверах я такое 
> видел). Гораздо чаще выходит из строя электроника и это заметно 
> неприятнее - ssd отказывает одномоментно и без предупреждений.
>

Так помимо SSD есть ещё флэшки, NAND/MMC, NVRAM... Первые SSD некоторых 
производителей таки дохли, когда на них ежедневно "пересобирали мир". Да 
и USB-флэшек на моей памяти откинулось очень немало.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Leonid Krivoshein]

17.11.2017 08:43, Sergey Afonin пишет:
> On Friday 17 November 2017, Leonid Krivoshein wrote:
>> Если не изменяет память, mdadm --metadata=1.0 при вышеупомянутом
>> Алексеем Виссарионовым типом раздела (Linux RAID autodetect) делает
>> boot-раздел для таких рейдов действительно не нужным.
> Изменяет. Не нужно только для RAID1. RAID, действительно, соберётся
> ядром (только metadata 0.9, а не 1.0), но кто загрузит размазанное
> по дискам ядро ? Разве что Grub научили. Но...

Да, тут я был сильно неправ. Грузиться с RAID5/6/10/0 нельзя. Но и 
смысла в этом действительно нет. Сделайте корень из трёх одинаковых 
разделов под RAID1. Насчёт metadata не соврал, у меня работало именно с 
1.0. Некоторая попадающая под руки документация по mdadm видимо 
устарела. Например, в ней утверждается, что для 0.90 поддерживаются 
только уровни 0 и 1. Но в современном mdadm это уже не так.


-- 
Best regards,
Leonid Krivoshein.

Re: [devel] fsck, большие разделы и swap

[Anton Farygin]

17.11.2017 23:54, Leonid Krivoshein пишет:
>
> 17.11.2017 11:03, Anton Farygin пишет:
>
>> Именно. Поэтому если хочется продлить жизнь ssd за счёт 
>> неиспользуемых блоков - то оптимальнее оставить место свободных.
>
> В ряде случаев SWAP вполне можно считать доступным пользователю всегда 
> свободным разделом. Он всё равно нужен, причём для записи, просто 
> кому-то реже, кому-то чаще, а при нынешних объёмах ОЗУ и при 
> определённых настройках ядро может обходиться без него практически 
> полностью.
Если может обходится, то не нужен. Я его и на 4Gb не использовал, а на 
8Gb тем более не нужен. А уж если ограничить такие приложения как 
firefox и chromium...


>
>> Хотя я всё равно не понимаю каким образом это увеличит жизнь диска - 
>> объём записываемых данных за срок жизни при этом не изменится.
>
> Поэтому дал ссылку на статью. Проблема становится актуальной при 
> высокой заполненности диска. Скорость начинает сильно деградировать. 
> На пользователях я это замечал ни раз. При отсутствии достаточного 
> свободного места контроллеру не остаётся ничего, как перезаписывать 
> блоки, занятые не полностью, выполнять дефрагментацию на лету. С т.з. 
> пользователя объём записи не меняется, но с т.з. ячеек -- циклов 
> перезаписи остаётся меньше, поскольку занятое надо сначала стереть. 
> Износ ячеек при этом регулируется контроллером уже не столь 
> равномерно. Хотя безусловно, это зависит от контроллера и от 
> пользователя скрыто. Но рекомендация производителей, все эти утилиты и 
> твики -- не случайно.
Уменьшение объёма диска не скажется положительно на необходимости его 
заполнять ;)
Если диск требуется забить на 200Gb, а туда поставили 120 - то 
естественно нужно увеличить его объём, а не уменьшить за счёт 
"неиспользуемого" раздела.

>
>>
>> Если же сделать на SSD swap, даже с swappines=10, то объём 
>> записываемых данных  _вырастет_ и тем самым мы не увеличим, а 
>> уменьшим ресурс SSD.
>
> Если умолчальное значение 60 опустить до 10, объём записи в SWAP 
> упадёт на порядок. Если с 60 до 1, то запись в SWAP будет выполняться 
> только при крайней на то необходимости.
Это всё верно, но изначально речь шла про умолчания дистрибутива. Тогда 
надо завести баг о том, что умолчания уже устарели.
>
>>
>> Т.е. - если для нормального функционирования системы без свопа
>
> Мне сложно представить себе жизнь без SWAP'а для большинства рабочих 
> конфигураций. Я знаю, что многие обходятся без него, но это всё до 
> поры, до времени.
Я без swap отлично живу уже больше пяти лет.
>
>>
>> Хотя, если быть честными - то я ни разу ещё не сталкивался с SSD, 
>> умершими от окончания ресурса (на десктопах, на серверах я такое 
>> видел). Гораздо чаще выходит из строя электроника и это заметно 
>> неприятнее - ssd отказывает одномоментно и без предупреждений.
>>
>
> Так помимо SSD есть ещё флэшки, NAND/MMC, NVRAM... Первые SSD 
> некоторых производителей таки дохли, когда на них ежедневно 
> "пересобирали мир". Да и USB-флэшек на моей памяти откинулось очень 
> немало.
>
Всё-таки давайте не путать. Найти накопитель, которые не предназначен 
для перезаписи - это не проблема.

Re: [devel] fsck, большие разделы и swap

[Alexey V. Vissarionov]

On 2017-11-17 16:47:48 +0400, Sergey Afonin wrote:

 >> Главное, в 21-ом веке, не вкомпилировать в ядро ipv6 без острой
 >> на то необходимости ;)

 > Нам тут сказали недавно, что LIR-ам в последний раз можно взять
 > в RIPE по /22 блоку IPv4, и всё. ;-)

Из последнего /8 - ага, можно... ЕМНИМС, при соблюдении двух условий:
1. Существующая AS не превышает /16 (64k адресов суммарно)
2. Оператор набрал 5 звезд IPv6 RIPEness
(http://ripeness.ripe.net/5star/RU.html и
https://labs.ripe.net/Members/becha/ipv6-ripeness-how-to-reach-the-stars)

В общем, у кого нет работающего IPv6 - тем IPv4 уже давно не выдают.


-- 
Alexey V. Vissarionov
gremlin ПРИ altlinux ТЧК org; +vii-cmiii-ccxxix-lxxix-xlii
GPG: 0D92F19E1C0DC36E27F61A29CD17E2B43D879005 @ hkp://keys.gnupg.net